JP5965540B2 - 仮想キーボード上のキー入力を認識する方法及びその装置 - Google Patents

仮想キーボード上のキー入力を認識する方法及びその装置 Download PDF

Info

Publication number
JP5965540B2
JP5965540B2 JP2015505628A JP2015505628A JP5965540B2 JP 5965540 B2 JP5965540 B2 JP 5965540B2 JP 2015505628 A JP2015505628 A JP 2015505628A JP 2015505628 A JP2015505628 A JP 2015505628A JP 5965540 B2 JP5965540 B2 JP 5965540B2
Authority
JP
Japan
Prior art keywords
key
user
key input
user tool
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015505628A
Other languages
English (en)
Other versions
JP2015513163A (ja
Inventor
ヨンファン キム
ヨンファン キム
ソンイン ジョ
ソンイン ジョ
ドンゴン ユ
ドンゴン ユ
サンフン キム
サンフン キム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Academy Industry Foundation of POSTECH
Original Assignee
Academy Industry Foundation of POSTECH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Academy Industry Foundation of POSTECH filed Critical Academy Industry Foundation of POSTECH
Publication of JP2015513163A publication Critical patent/JP2015513163A/ja
Application granted granted Critical
Publication of JP5965540B2 publication Critical patent/JP5965540B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0489Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using dedicated keyboard keys or combinations thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • G06F3/0426Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected tracking fingers with respect to a virtual keyboard projected or printed on the surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Input From Keyboards Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、仮想キーボード上のキー入力を認識する方法及びその装置に関し、多様な種類の仮想キーボード上のキー入力を認識する方法に関する。
従来、物理的キーボードは体積が大きく、掃除が難しいという短所があるため、これに対する代案として平面にキーボードをプロジェクションして作った仮想キーボードが存在する。しかし、このようなプロジェクション仮想キーボードは、ユーザ親和的ではないためユーザの適応が容易でなく、キーボードの種類と形態が限定されているので、提供されるキーボード形状にユーザが合わせて適応しなければならない不便さがある。また、このようなキーボードは、仮想のキーボードを作るために高価のハードウェア資源とユーザのキーボード入力を認知するための赤外線受信機を必要とする。
また、タブレットパソコンやスマートホンなどに適用される仮想キーボードの場合、画面のほぼ半分を占めて画面を遮る不便さがあり、2バイト文字や特殊文字、数字などを交互に入力しなければならない場合、仮想キーボード上のキーもやはり交互に画面に現われるため、キー入力が不便な問題がある。
前述のような問題点を解決するために、本発明の目的は、ユーザの便宜を提供し、多様な種類の仮想キーボードに適用可能なキー入力認識方法を提供することにある。
前述のような問題点を解決するための本発明の他の目的は、ユーザの便宜を提供し、多様な種類の仮想キーボードに適用可能なキー入力認識装置を提供することにある。
上記目的を達成するための本発明は、少なくとも1つのカメラを利用して仮想キーボード上のキー入力を認識する方法において、前記カメラを利用して前記仮想キーボード上にキー入力のためのユーザツールの動作を感知すると、前記ユーザツールを追跡し、且つ前記ユーザツールの垂直座標上の位置があらかじめ定義された垂直閾値より小さいか等しいときまで追跡する段階と、最終的に追跡された前記ユーザツールの水平位置上のキーが入力されたものと判断する段階とを含むキー入力認識方法を提供する。
ここで、前記追跡する段階の前に、前記カメラを利用してあらかじめ定められたパターン認識方法によって前記仮想キーボード上の各キーのパターンによる位置を認識する段階をさらに含むことを特徴とする。
ここで、前記追跡する段階の前に、前記仮想キーボード上にキー入力のためのユーザツールが前記仮想キーボードの平面に当接したものと認識される垂直座標上の最低位置を測定し、前記垂直閾値として決定する段階をさらに含むことを特徴とする。
ここで、前記決定する段階は、前記ユーザツールがユーザの手である場合、前記仮想キーボードをタイピングするユーザの手先の垂直座標を測定し、最も低い点を前記垂直閾値として決定することを特徴とする。
ここで、前記判断する段階は、前記キー入力のためのユーザツールの動作とともにあらかじめ定められた少なくとも1つの他の信号が感知された場合、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間とが同一であれば、前記水平位置上のキーが入力されたものと判断することを特徴とする。
ここで、前記判断する段階は、前記キー入力のためのユーザツールの動作とともにあらかじめ定められた少なくとも1つの他の信号が感知された場合、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間との差があらかじめ定められた許容誤差以内の場合、前記最終的に追跡されたユーザツールの水平位置上のキーが入力されたものと判断することを特徴とする。
ここで、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間との差があらかじめ定められた許容誤差以内の場合は、前記少なくとも1つの他の信号が感知された時間に合わせて前記垂直閾値を補正する段階をさらに含むことを特徴とする。
ここで、前記判断する段階で、ユーザツールの水平位置上のキーが入力されたものと判断した場合、前記キー入力を確認するための信号を発生させる段階をさらに含むことを特徴とする。
ここで、前記キー入力を確認するための信号は、振動、音、発光のうち少なくとも1つを含むことを特徴とする。
前記他の目的を達成するための本発明は、少なくとも1つのカメラを利用して仮想キーボード上のキー入力を認識する装置において、少なくとも1つのカメラ、前記少なくとも1つのカメラを利用して、仮想キーボード上にキー入力のためのユーザツールの動作が感知されれば、前記ユーザツールを追跡し、且つ前記ユーザツールの垂直座標上の位置があらかじめ定義された垂直閾値より小さいかまたは同じときまで追跡するユーザツール追跡部と、最終的に追跡された前記ユーザツールの水平位置上のキーが入力されたものと判断するキー値認識部とを含むキー入力認識装置を提供する。
ここで、あらかじめ定められたパターン認識方法を利用して前記仮想キーボード上の各キーのパターンによる位置を認識するパターン認識部をさらに含むことを特徴とする。
ここで、前記仮想キーボード上にキー入力のためのユーザツールが前記仮想キーボードの平面に接したものと認識される垂直座標上の最低位置を前記垂直閾値として決定する閾値初期化部をさらに含むことを特徴とする。
ここで、前記閾値初期化部は、前記ユーザツールがユーザの手の場合、前記仮想キーボードをタイピングするユーザの手先の垂直座標を測定し、最も低い点を前記垂直閾値として決定することを特徴とする。
ここで、前記キー値認識部は、前記キー入力のためのユーザツールの動作とともにあらかじめ定められた少なくとも1つの他の信号が感知された場合、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間とが同一であれば、前記水平位置上のキーが入力されたものと判断することを特徴とする。
ここで、前記キー値認識部は、前記キー入力のためのユーザツールの動作とともにあらかじめ定められた少なくとも1つの他の信号が感知された場合、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間との差があらかじめ定められた許容誤差以内の場合、前記最終的に追跡されたユーザツールの水平位置上のキーが入力されたものと判断することを特徴とする。
ここで、前記キー値認識部は、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間との差があらかじめ定められた許容誤差以内の場合、前記少なくとも1つの他の信号が感知された時間に合わせて前記垂直閾値を補正することを特徴とする。
ここで、前記キー値認識部は、ユーザツールの水平位置上のキーが入力されたものと判断した場合、前記キーの入力を確認するための信号を発生させることを特徴とする。
ここで、前記キーの入力を確認するための信号は、振動、音、発光のうち最小限1つを含むことを特徴とする。
上記のような本発明による仮想キーボード上のキー入力認識方法及び装置を利用する場合には、多様な種類の仮想キーボード上に表示されたキーを、カメラを利用してパターン認識し、これによってキーをタイピングするユーザの動きを追跡して入力されたキー値を認識することによって、キーボード種類や形態にかかわらず、ユーザのキー入力を認識することができる。特に、本発明による方法及び装置がタブレットパソコンやスマートホンなどに適用される場合、分離した別途の仮想キーボードを使用することができるので、従来、パソコンやスマートホンの画面に表示される仮想キーボードによって画面が遮られるか、または2バイトコードなど他の種類のキーを入力するとき、交互に画面表示する不便が解消される。また、タブレットパソコンなどに3D撮影のような機能が追加されることに伴い、自ずとカメラが2つ以上または3Dカメラが付着する場合、追加のハードウェア資源が不要であるという長所がある。
本発明の一実施例による仮想キーボード上のキー入力を認識する過程を示すフローチャートである。
本発明の一実施例による仮想キーボード上のキーを認識する例を示す概念図である。
本発明の一実施例によるキー入力とユーザ信号の感知時間差による処理過程を示す概念図である。
本発明の一実施例による仮想キーボード上のキー入力認識装置の構成を示すブロック図である。
本発明は、多様な変更を加えることができ、さまざまな実施例を有することができるところ、特定の実施例を図面に例示し詳細に説明する。しかし、これは、本発明を特定の実施形態に限定しようとするものではなく、本発明の思想及び技術範囲に含まれるすべての変更、均等物ないし代替物を含むものと理解しなければならない。各図面を説明する際、類似の参照符号を類似の構成要素について使用した。
第1、第2、A、Bなどの用語は、多様な構成要素を説明するのに使用されることができるが、前記構成要素は、前記用語に限定されてはならない。前記用語は、1つの構成要素を他の構成要素から区別する目的でのみ使用される。例えば、本発明の権利範囲を逸脱することなく、第1構成要素は、第2構成要素として命名されてもよく、同様に、第2構成要素も第1構成要素として命名されてもよい。及び/またはという用語は、複数の関連され記載された項目の組み合わせまたは複数の関連され記載された項目のうちいずれかの項目を含む。
任意の構成要素が他の構成要素に「連結されて」いるか、「接続されて」いると言及されたときは、他の構成要素に直接に連結されているか、または接続されてもよいが、中間に他の構成要素が存在することもあると理解しなければならない。一方、任意の構成要素が他の構成要素に「直接連結されて」いるか、「直接接続されて」いると言及されたときは、中間に他の構成要素が存在しないものと理解しなければならない。
本願において使用された用語は、ただ特定の実施例を説明するために使用されたものであって、本発明を限定しようとする意図ではない。単数の表現は、文脈上明白に異なる意味を示さない限り、複数の表現を含む。本願において、「含む」または「有する」などの用語は、明細書上に記載された特徴、数字、段階、動作、構成要素、部品またはこれらを組み合わせたものが存在することを指定しようとするものであって、1つまたはそれ以上の他の特徴や数字、段階、動作、構成要素、部品またはこれらを組み合わせたものの存在または付加可能性をあらかじめ排除しないものと理解しなければならない。
異なる定義をしない限り、技術的または科学的用語を含み、ここで使用されるすべての用語は、本発明の属する技術分野において通常の知識を有する者によって一般的に理解されるものと同一の意味を有している。一般的に使用される辞書に定義されているもののような用語は、関連技術の文脈上有する意味と一致する意味を有するものと解釈するべきであり、本出願で明白に定義しない限り、理想的または過度に形式的意味として解釈しない。
以下、本発明による好ましい実施例を添付の図面を参照して詳細に説明する。本発明を説明するにおいて、全体的理解を容易にするために図面上の同一の構成要素については、同一の参照符号を使用し、同一の構成要素について重複する説明を省略する。
図1は、本発明の一実施例による仮想キーボード上のキー入力を認識するための各段階を示すフローチャートである。
図1を参照すると、本発明の一実施例による仮想キーボード上のキー入力を認識する過程は、キーパターン認識段階S110、閾値初期化段階S120、キー入力ツールの動き追跡段階S130、キー入力パターン比較段階S140、ユーザ信号感知段階S150、閾値補正段階S160、キー入力確認段階S170及び確認信号音出力段階S180を備えて構成することができる。
また、図1を参照すると、本発明の一実施例による仮想キーボード上のキー入力を認識する過程は、少なくとも1つのカメラを利用して行われ、各段階は、次のように説明することができる。
キーパターン認識段階S110は、少なくとも1つのカメラを利用して、あらかじめ定められたパターン認識方法によって仮想キーボード上の各キーのパターンによる位置を認識する段階であってよい。以下、仮想キーボード上のキーパターン認識方法を、図面を参照して説明する。この際、カメラは、2つのカメラまたは1つの3Dカメラを利用してもよい。
図2は、本発明の一実施例による仮想キーボード上のキーを認識する例を示す概念図である。
図2を参照すると、本発明による仮想キーボード200内の各キーの位置は、カメラを利用して文字
をパターン認識する方法を使用して把握することができる。例えば、パターン認識方法によって
を探索する場合、
を探索した後、その周辺の閉鎖された領域220を
の領域として見做される。
一方、本発明による仮想キーボードは、映像追跡方法を利用して認識するので、従来のプロジェクションキーボードのように、レーザーを利用してプロジェクションキーボードを作って使用してもよく、ユーザが直接キーボードを描いて使用してもよく、従来の物理的キーボードを使用してもよい。また、物理的な境界がないので、キーの大きさや位置を任意に変えることができる。例えば、「Esc」キーを既存のキーより大きくするか、または「Enter」キーを両側に配置することも可能である。したがって、既存のプロジェクションキーボードのように、レーザーでキーボードを作っても、キーボードを作るレーザーハードウェアとこれを認知するカメラハードウェアの位置が相互独立して定めることができ、デザインに有利である。
また、ユーザの入力パターンによって、特定キーの範囲も変更可能である。そして、キー入力を望まない状況で手を平面に位置する場合でも、全般ユーザの習慣に加えて、特定ユーザに対するデータを蓄積し、これを区別することによって、ユーザの便宜を助けることができる。
閾値初期化段階S120は、仮想キーボード上にキー入力のためのユーザツールが仮想キーボードの平面に接したものと認識される垂直座標上の最低位置を測定して垂直閾値として決定する段階であってよい。例えば、ユーザツールがユーザの手なら、ユーザの指の厚さなどにより仮想キーボード上のキーボードがタッチされるとき、カメラによって認知される指の垂直座標が異なってもよい。
したがって、初期にユーザが何回か任意のキーをタイピングしながら、ユーザの指先が最も低く位置する場合、すなわち仮想キーボードから垂直座標上の低い点を垂直閾値に設定することができる。以後、設定された垂直閾値より低い箇所に指先が位置すると、当該位置のキーが入力されたものと判断することができる。この際、カメラを利用して入力を認識するためには、その前に指先の位置を把握することが必要であるが、従来開発されている手の色に基づく位置探しや、あらかじめ指定された領域にユーザが手を位置させる方法などを用いてもよい。
キー入力ツール動き追跡段階S130は、カメラを利用して仮想キーボード上にキー入力のためのユーザツールの動作を感知すると、ユーザツールを追跡する。この際、ユーザツールの垂直座標上の位置があらかじめ定められた垂直閾値、例えば、閾値初期化段階S120で設定した垂直閾値より小さいかまたは等しいときまで追跡することができる。
キー入力パターン比較段階S140は、ユーザのタイピング習慣を分析し、あらかじめ定義されたキー入力パターンとキー入力ツールの動き追跡段階S130で追跡されたキー入力映像を比較し、キー入力中であるか否かを区別する段階であってもよい。これは、ユーザがキー入力を望むわけではないが、平面に手を位置させる場合を区別するためのものである。
例えば、ユーザがタイピングを休んで待機状態であるとき、楽な姿勢を取ることができ、タイピングはそれ以上進まない場合があり得る。最も簡単な例として、両手の親指を除いた八つの指が同時に当ることを待機状態として認識する方法と待機状態に進むキーなどを作る方法などがある。
ユーザ信号感知段階S150は、選択によりキー入力のためのユーザツールの動作とともにあらかじめ定められた少なくとも1つの他の信号、すなわちユーザから発せられたユーザ信号を感知する段階であってもよい。この際、ユーザ信号が感知された時間とユーザツールが最終的に追跡された時間との差を比較し、その差があらかじめ定められた許容誤差以内の場合は、ユーザ信号が感知された時間に合わせて垂直閾値を補正することができる(S160)。
すなわち、仮想キーボード上のキーを入力するユーザツール(例えば、ユーザの手)に対する追跡映像認識の正確性を高めるために音及び振動のようなユーザからの信号を感知し、映像認識結果とユーザ信号の感知結果による時間差を同期化するために垂直閾値を修正する方法を用いてもよい。以下、図面を参照して説明する。
図3は、本発明の一実施例によるキー入力とユーザ信号の感知時間の差による処理過程を示す概念図である。
図3を参照すると、追跡映像信号310とユーザ信号320で入力された、それぞれ3つの信号を示す。第一は、映像信号311とユーザ信号321の間の感知時間の差が大きい過ぎたため、キーが入力されたものと判断しない場合である。第二は、映像信号313とユーザ信号323の間の感知時間の差はあるが、許容され得る差であるので、キーが入力されたものと判断できる。また、この場合、信号間の到達時間の差を調整するためにユーザ信号感知時間に合わせて閾値を修正することができる(S150)。第三は、映像信号315とユーザ信号325の間の差がないので、キーが入力されたものと判断することができる。また、この場合は、閾値の補正を行う必要はない。
キー入力確認段階S170は、最終的に追跡された前記ユーザツールの水平位置上のキーが入力されたものと判断する段階であってもよい。すなわち最終的に追跡されたユーザツールの垂直座標上の位置があらかじめ定められた垂直閾値より小さい位置の水平座標上の位置を導出し、導出された位置に対応するキー値が入力されたものと判断することができる。この際、導出された位置に対応するキー値は、キーパターン認識段階S110で認識されたパターンによるキーの位置を参照して把握することができる。
または、ユーザ信号感知段階S150で約束されたユーザ信号を感知した場合、ユーザ信号が感知された時間とユーザツールが最終的に追跡された時間との差を比較し、差がないか、またはその差があらかじめ定められた許容誤差以内なら、当該水平座標上の位置のキー値が入力されたものと判断することができる。
入力確認信号音出力段階S180は、キー入力確認段階S170で、ユーザツールの水平位置上のキーが入力されたものと判断した場合、キーの入力を確認するための信号を発生させる段階であってよい。すなわち、キーが正常に入力されたことを確認できるように、振動や発光、信号音などのフィードバック信号をユーザに送ることができる。このようなフィードバック信号は、ユーザが従来のキーボードでキーをタイピングしながら感じた感覚を再現することができる。
図4は、本発明の一実施例による仮想キーボード上のキー入力認識装置の構成を示すブロック図である。
図4を参照すれば、本発明の一実施例による仮想キーボード30上のキー入力認識装置10は、カメラ410、パターン認識部420、閾値初期化部430、キー値認識部440を備えて構成することができる。
また、図4を参照すると、本発明の一実施例による仮想キーボード上のキー入力認識装置10の各構成要素及び構成要素間の連結関係は、次のように説明することができる。
カメラ410は、仮想キーボード30上のキーパターンを認識して各キーの位置を確認し、ユーザのキー入力動作を追跡して、入力されたキーの位置を認識するために利用できる。この際、カメラ410は、ユーザの入力を認知するデュアルカメラを利用してもよい。
パターン認識部420は、少なくとも1つのカメラ410(例えば2つのカメラまたは1つの3Dカメラ)を利用して、あらかじめ定められたパターン認識方法によって仮想キーボード30上の各キーのパターンによる位置を認識することになる。
閾値初期化部430は、仮想キーボード30上にキー入力のためのユーザツールが仮想キーボードの平面に接したものと認識される垂直座標上の最低位置を測定し、垂直閾値として決定することができる。
キー値認識部440は、カメラ410を利用して仮想キーボード30上にキー入力のためのユーザツールの動作を感知すると、ユーザツールを追跡する。この際、ユーザツールの垂直座標上の位置があらかじめ定められた垂直閾値より小さいかまたは等しいときまで追跡することができる。
・・ また、キー値認識部440は、選択によりキー入力のためのユーザツールの動作とともに、あらかじめ定められた少なくとも1つの他の信号、すなわちユーザから発せられたユーザ信号を感知することができる。この際、ユーザ信号が感知された時間とユーザツールが最終的に追跡された時間との差を比較し、同一であれば、最終的に追跡されたユーザツールの水平位置上のキーが入力されたものと判断する。すなわち、“1”が表示された位置をユーザがタイピングした場合、当該位置値をあらかじめ認識したパターンに対応させて“1”が入力されたものと判断し、これによる処理をする。
しかし、その差があらかじめ定められた許容誤差を脱した場合、当該動作を無視してキーが入力されなかったものと判断し、許容誤差範囲以内の場合、ユーザ信号が感知された時間に合わせて垂直閾値を補正し、当該水平位置のキーが入力されたものと判断することになる。
この際、ユーザ信号を感知するためのセンサーが使用されてもよく、またアナログ信号をデジタル信号に変換して測定するためにADCが利用されてもよい。また、映像信号とユーザ信号との差を測定するために、時間軸上で2つの信号の最高点の差を利用する方法や一定周期毎にサンプリングして2つの信号が発生した間の周期を測定する方法、位相測定器を利用する方法などが利用できる。
また、キー値認識部440は、ユーザツールの水平位置上のキーが入力されたものと判断した場合、キーの入力を確認するための信号を発生させることができる。すなわち、キーが正常に入力されたことを確認できるように、ユーザに振動や発光、信号音などのフィードバック信号を与えることができる。
上記では、本発明の好ましい実施例を参照して説明したが、当該技術分野における熟練した当業者ならば、下記特許請求の範囲に記載された本発明の思想及び領域を逸脱しない範囲内で本発明を多様に修正及び変更できることは理解できることである。

Claims (14)

  1. 少なくとも1つのカメラを利用して仮想キーボード上のキー入力を認識する方法において、
    前記カメラを利用して前記仮想キーボード上にキー入力のためのユーザツールの動作を感知すると前記ユーザツールを追跡し、且つ前記ユーザツールの垂直座標上の位置があらかじめ定義された垂直閾値より小さいかまたは等しいときまで追跡する段階と、
    最終的に追跡された前記ユーザツールの水平位置上のキーが入力されたものと判断する段階とを含み、
    前記判断する段階は、
    前記キー入力のためのユーザツールの動作とともにあらかじめ定められた少なくとも1つの他の信号が感知された場合、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間との差が、あらかじめ定められた許容誤差以内の場合、前記最終的に追跡されたユーザツールの水平位置上のキーが入力されたものと判断し、
    前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間との差が、あらかじめ定められた許容誤差以内の場合、
    前記少なくとも1つの他の信号が感知された時間に合わせて前記垂直閾値を補正することを特徴とするキー入力認識方法。
  2. 前記追跡する段階の前に、
    前記カメラを利用してあらかじめ定められたパターン認識方法によって前記仮想キーボード上の各キーのパターンによる位置を認識する段階をさらに含むことを特徴とする、請求項1に記載のキー入力認識方法。
  3. 前記追跡する段階の前に、
    前記仮想キーボード上にキー入力のためのユーザツールが前記仮想キーボードの平面に接したものと認識される垂直座標上の最低位置を測定し、前記垂直閾値として決定する段階をさらに含むことを特徴とする、請求項1に記載のキー入力認識方法。
  4. 前記決定する段階は、
    前記ユーザツールがユーザの手である場合、前記仮想キーボードをタイピングするユーザの手の先の垂直座標を測定し、最も低い点を前記垂直閾値として決定することを特徴とする、請求項3に記載のキー入力認識方法。
  5. 前記判断する段階は、
    前記キー入力のためのユーザツールの動作とともにあらかじめ定められた少なくとも1つの他の信号が感知された場合、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間とが同一であれば、前記水平位置上のキーが入力されたものと判断することを特徴とする、請求項1に記載のキー入力認識方法。
  6. 前記判断する段階において、ユーザツールの水平位置上のキーが入力されたものと判断した場合、
    前記キーの入力を確認するための信号を発生させる段階をさらに含むことを特徴とする、請求項1に記載のキー入力認識方法。
  7. 前記キーの入力を確認するための信号は、振動、音、発光のうち最小限1つを含むことを特徴とする、請求項に記載のキー入力認識方法。
  8. 少なくとも1つのカメラを利用して仮想キーボード上のキー入力を認識する装置において、
    少なくとも1つのカメラと、
    前記少なくとも1つのカメラを利用して、仮想キーボード上にキー入力のためのユーザツールの動作を感知すると、前記ユーザツールを追跡し、且つ前記ユーザツールの垂直座標上の位置が、あらかじめ定義された垂直閾値より小さいかまたは等しいときまで追跡するユーザツール追跡部と、
    前記ユーザツール追跡部で最終的に追跡された前記ユーザツールの水平位置上のキーが入力されたものと判断するキー値認識部とを含み、
    前記キー値認識部は、
    前記キー入力のためのユーザツールの動作とともに、あらかじめ定められた少なくとも1つの他の信号が感知された場合、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間との差が、あらかじめ定められた許容誤差以内の場合、前記最終的に追跡されたユーザツールの水平位置上のキーが入力されたものと判断し、
    前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間との差が、あらかじめ定められた許容誤差以内の場合、前記少なくとも1つの他の信号が感知された時間に合わせて前記垂直閾値を補正することを特徴とするキー入力認識装置。
  9. あらかじめ定められたパターン認識方法を利用して前記仮想キーボード上の各キーのパターンによる位置を認識するパターン認識部をさらに含むことを特徴とする、請求項に記載のキー入力認識装置。
  10. 前記仮想キーボード上にキー入力のためのユーザツールが前記仮想キーボードの平面に接したものと認識される垂直座標上の最低位置を前記垂直閾値として決定する閾値初期化部をさらに含むことを特徴とする、請求項に記載のキー入力認識装置。
  11. 前記閾値初期化部は、
    前記ユーザツールがユーザの手である場合、前記仮想キーボードをタイピングするユーザの手の先の垂直座標を測定し、最も低い点を前記垂直閾値として決定することを特徴とする、請求項10に記載のキー入力認識装置。
  12. 前記キー値認識部は、
    前記キー入力のためのユーザツールの動作とともに、あらかじめ定められた少なくとも1つの他の信号が感知された場合、前記少なくとも1つの他の信号が発生した時間と前記ユーザツールが最終的に追跡された時間とが同一であれば、前記水平位置上のキーが入力されたものと判断することを特徴とする、請求項に記載のキー入力認識装置。
  13. 前記キー値認識部は
    前記ユーザツールの水平位置上のキーが入力されたものと判断した場合、
    前記キーの入力を確認するための信号を発生させることを特徴とする、請求項に記載のキー入力認識装置。
  14. 前記キーの入力を確認するための信号は、振動、音、発光のうち最小限1つを含むことを特徴とする、請求項13に記載のキー入力認識装置。
JP2015505628A 2012-04-13 2013-03-05 仮想キーボード上のキー入力を認識する方法及びその装置 Expired - Fee Related JP5965540B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR1020120038351A KR20130115750A (ko) 2012-04-13 2012-04-13 가상 키보드 상의 키 입력을 인식하는 방법 및 그 장치
KR10-2012-0038351 2012-04-13
PCT/KR2013/001762 WO2013154268A1 (ko) 2012-04-13 2013-03-05 가상 키보드 상의 키 입력을 인식하는 방법 및 그 장치

Publications (2)

Publication Number Publication Date
JP2015513163A JP2015513163A (ja) 2015-04-30
JP5965540B2 true JP5965540B2 (ja) 2016-08-10

Family

ID=49327801

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015505628A Expired - Fee Related JP5965540B2 (ja) 2012-04-13 2013-03-05 仮想キーボード上のキー入力を認識する方法及びその装置

Country Status (5)

Country Link
US (1) US9766714B2 (ja)
JP (1) JP5965540B2 (ja)
KR (1) KR20130115750A (ja)
CN (1) CN104272224A (ja)
WO (1) WO2013154268A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101452191B1 (ko) * 2014-03-28 2014-10-22 주식회사 한글과컴퓨터 터치스크린 장치 및 상기 터치스크린 장치의 가상 키보드 터치 인식 영역 조정 방법
US10402089B2 (en) * 2015-07-27 2019-09-03 Jordan A. Berger Universal keyboard
US10282090B2 (en) * 2015-09-30 2019-05-07 Apple Inc. Systems and methods for disambiguating intended user input at an onscreen keyboard using dual strike zones
KR101719454B1 (ko) * 2016-05-26 2017-03-23 한국과학기술원 키보드 타이핑 모션 생성 방법 및 장치
CN114356140B (zh) * 2021-12-31 2024-02-13 上海永亚智能科技有限公司 一种红外感应悬浮按键的按键动作识别方法
US20230343005A1 (en) * 2022-04-22 2023-10-26 Zebra Technologies Corporation Methods and Systems for Automated Structured Keyboard Layout Generation

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6614422B1 (en) * 1999-11-04 2003-09-02 Canesta, Inc. Method and apparatus for entering data using a virtual input device
US6710770B2 (en) * 2000-02-11 2004-03-23 Canesta, Inc. Quasi-three-dimensional method and apparatus to detect and localize interaction of user-object and virtual transfer device
AU2002243265A1 (en) * 2000-11-19 2002-06-24 Canesta, Inc. Method for enhancing performance in a system utilizing an array of sensors that sense at least two-dimensions
US8866745B1 (en) * 2002-03-11 2014-10-21 Brad Schrick System and method for providing a touch input interface for information computing and control devices
JP2003288156A (ja) * 2002-03-28 2003-10-10 Minolta Co Ltd 入力装置
WO2005069114A1 (ja) * 2004-01-15 2005-07-28 Vodafone K.K. 移動体通信端末
US20070115261A1 (en) * 2005-11-23 2007-05-24 Stereo Display, Inc. Virtual Keyboard input system using three-dimensional motion detection by variable focal length lens
US20060244720A1 (en) * 2005-04-29 2006-11-02 Tracy James L Collapsible projection assembly
KR20070009207A (ko) * 2005-07-15 2007-01-18 엘지전자 주식회사 가상 키보드 입력 장치를 갖는 이동통신 단말기 및 이를이용한 입력 방법
US20070035521A1 (en) * 2005-08-10 2007-02-15 Ping-Chang Jui Open virtual input and display device and method thereof
JP4635788B2 (ja) * 2005-09-06 2011-02-23 株式会社日立製作所 弾力性素材を用いた入力装置
KR101079598B1 (ko) * 2007-12-18 2011-11-03 삼성전자주식회사 디스플레이장치 및 그 제어방법
WO2009099280A2 (en) * 2008-02-05 2009-08-13 Lg Electronics Inc. Input unit and control method thereof
KR101467766B1 (ko) * 2008-03-21 2014-12-10 엘지전자 주식회사 이동 단말기 및 이동 단말기의 화면 표시 방법
US20110102570A1 (en) * 2008-04-14 2011-05-05 Saar Wilf Vision based pointing device emulation
JP5205187B2 (ja) 2008-09-11 2013-06-05 株式会社エヌ・ティ・ティ・ドコモ 入力システム及び入力方法
US20100177035A1 (en) * 2008-10-10 2010-07-15 Schowengerdt Brian T Mobile Computing Device With A Virtual Keyboard
TWI470478B (zh) * 2008-12-26 2015-01-21 Inventec Appliances Corp 電子裝置之虛擬鍵盤結構及其資料輸入方法
CN104808821A (zh) * 2009-05-26 2015-07-29 美国智能科技有限公司 数据输入方法及装置
JP2012053532A (ja) * 2010-08-31 2012-03-15 Casio Comput Co Ltd 情報処理装置及び方法、並びにプログラム

Also Published As

Publication number Publication date
WO2013154268A1 (ko) 2013-10-17
KR20130115750A (ko) 2013-10-22
JP2015513163A (ja) 2015-04-30
US9766714B2 (en) 2017-09-19
CN104272224A (zh) 2015-01-07
US20150084869A1 (en) 2015-03-26

Similar Documents

Publication Publication Date Title
US11755137B2 (en) Gesture recognition devices and methods
JP5965540B2 (ja) 仮想キーボード上のキー入力を認識する方法及びその装置
JP5694422B2 (ja) モバイル機器およびジェスチャ判断法
US8502787B2 (en) System and method for differentiating between intended and unintended user input on a touchpad
US9361023B2 (en) Method of capturing system input by relative finger positioning
US10042438B2 (en) Systems and methods for text entry
WO2015110063A1 (zh) 信息处理方法、装置及设备
TW201432520A (zh) 操作方法以及電子裝置
US20120007816A1 (en) Input Control Method and Electronic Device for a Software Keyboard
WO2017029749A1 (ja) 情報処理装置、その制御方法、プログラム、及び記憶媒体
US10346992B2 (en) Information processing apparatus, information processing method, and program
TWI486815B (zh) 顯示設備及其控制系統和方法
US20120062484A1 (en) Electronic device with navigation keys and navigation method thereof
JP4602199B2 (ja) 入力装置、入力方法、コンピュータプログラム、半導体デバイス
KR101392981B1 (ko) 가상 키보드 상의 키 입력을 인식하는 방법 및 그 장치
TW201504876A (zh) 防止手掌誤觸方法
TWI410860B (zh) 具有虛擬鍵盤之觸控裝置及其形成虛擬鍵盤之方法
US10175825B2 (en) Information processing apparatus, information processing method, and program for determining contact on the basis of a change in color of an image
JP5992380B2 (ja) ポインティング・デバイス、ノートブック型パーソナル・コンピュータおよび操作方法。
US20200249767A1 (en) Virtual Keyboard Input Method
JP6344083B2 (ja) マルチタッチシステム、タッチ座標ペア決定方法及びタッチ座標ペア決定プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151118

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160701

R150 Certificate of patent or registration of utility model

Ref document number: 5965540

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees