CN104049738A - 用于操作用户装置的传感器的方法和设备 - Google Patents

用于操作用户装置的传感器的方法和设备 Download PDF

Info

Publication number
CN104049738A
CN104049738A CN201410095200.XA CN201410095200A CN104049738A CN 104049738 A CN104049738 A CN 104049738A CN 201410095200 A CN201410095200 A CN 201410095200A CN 104049738 A CN104049738 A CN 104049738A
Authority
CN
China
Prior art keywords
sensor
user
gesture
depth value
mobile terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201410095200.XA
Other languages
English (en)
Inventor
金大成
姜志营
金镇龙
李宝嬴
林承卿
全轸泳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of CN104049738A publication Critical patent/CN104049738A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/04166Details of scanning methods, e.g. sampling time, grouping of sub areas or time sharing with display driving
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/041012.5D-digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface and also measures the distance of the input means within a short range in the Z direction, possibly with a separate measurement setup
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04106Multi-sensing digitiser, i.e. digitiser using at least two different sensing technologies simultaneously or alternatively, e.g. for detecting pen and finger, for saving power or for improving position detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04108Touchless 2D- digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface without distance measurement in the Z direction

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

一种用于操作用户装置的传感器的方法和设备,所述方法包括:检测使用用户输入部件进行的输入,测量用户输入部件与用户装置的屏幕之间的深度值,通过基于测量的深度值选择性地驱动多个传感器中的一个或更多个传感器来激活手势识别功能,基于由被选择性地驱动的传感器收集的信息段来识别用户手势。

Description

用于操作用户装置的传感器的方法和设备
技术领域
本发明总体地涉及一种用于操作用户装置的传感器的方法和设备,更具体地讲,涉及一种用于操作识别各种类型的用户手势的用户装置的传感器的方法和设备。
背景技术
用户装置(例如,智能电话、平板PC和膝上型计算机)由于它们便于使用和携带而被用在各种领域。用户装置通过经由显示单元提供各种内容和功能来支持功能的直观使用。用户可使用各种输入部件(诸如,触摸、语音和动作)来操纵显示在显示单元上的内容和功能,或将必要的信息输入到装置。
用户装置可配备有各种类型的感应器以识别用户的各种输入。可根据装置与执行用户的输入的空间之间的距离对传感器进行分类,并且传感器可在指定的界限内根据动作的方向和环境的特性来识别用户的输入。例如,电容型触摸传感器基于用户身体的电容值的变化来识别用户的输入。电容型触摸传感器可准确地检测用户输入的位置,但具有以下缺点:当装置与用户之间的距离是特定值或更大的值时,由于电容值的变化很小,准确度会降低。红外线传感器具有针对用户输入的最宽距离识别范围,但具有以下缺点:用户输入的位置会无法被准确地识别。
在常规的用户装置中,各种传感器可具有各自被驱动的不同约束条件。由于这个缘故,尽管用户装置可包括各种传感器,但用户装置具有针对用户的输入的有限识别范围。
发明内容
本发明已被做出以至少解决上述问题和缺点,并至少提供下述优点。因此,本发明的一方面提供一种用于操作用户装置的传感器的方法和设备,其中,所述方法和设备在根据用户装置与用户之间的距离有组织地结合各种传感器进行操作的同时,能够扩大用户输入的识别范围。
此外,本发明提供一种用于操作用户装置的传感器的方法和设备,其中,所述方法和设备通过使用某一传感器对另一传感器的局限进行增补,来减少用户装置的功耗并提高用户输入的准确度。
根据本发明的一方面,一种操作用户装置的多个传感器的方法包括:检测用户输入部件,测量用户输入部件与用户装置的屏幕之间的深度值,通过基于测量的深度值选择性地驱动所述多个传感器中的一个或更多个传感器来激活手势识别功能,并基于由被选择性地驱动的传感器收集的信息段来识别用户手势。
根据本发明的另一方面,一种用户装置包括:传感器单元,被配置为包括:多个传感器,用于检测用户输入和输入的改变;控制单元,被配置为检测用户输入部件,测量用户输入部件与用户装置的屏幕之间的深度值,通过基于测量的深度值选择性地驱动所述多个传感器中的一个或更多个传感器来激活手势识别功能,并基于由被选择性地驱动的传感器收集的信息段来识别用户手势。
附图说明
通过结合附图进行的以下详细的描述,本发明的实施例的以上和其他方面、特征和优点将更加清楚,其中:
图1是示出根据本发明的实施例的移动终端的配置的框图;
图2是示出根据本发明的实施例的用于操作移动终端的传感器的方法的流程图;
图3示出根据本发明的实施例的用于操作移动终端的传感器的方法;
图4示出根据本发明的实施例的基于操作传感器的方法与移动终端进行的用户交互;
图5示出根据本发明的另一实施例的基于操作传感器的方法与移动终端进行的用户交互;
图6示出根据本发明的实施例的基于操作传感器的方法根据移动终端与用户的手之间的距离提供不同视觉反馈的移动终端的屏幕;
图7到图9示出根据本发明的实施例的基于操作传感器的方法被移动终端识别的各种用户手势。
具体实施方式
参照附图详细描述根据本发明的实施例的用于操作用户装置的传感器的方法和设备。在详细描述本发明之前,下文所用的术语或词语不应被理解为具有普通或词典含义,而应被理解为具有符合本发明的技术领域的含义和概念。此外,以下描述和附图示出本发明的实施例,并不限制本发明的范围。本领域的普通技术人员应理解存在所述实施例的各种等同物和修改。此外,在附图中,一些元件被放大地示出并被示意性地示出。每一个元件的尺寸并未准确地反映它的真实尺寸。因此,本发明不受画在附图中的相对尺寸或空间的限制。
根据本发明的方法和设备可被应用于移动终端。所述移动终端可以是移动电话、智能电话、平板PC、手持PC、便携式媒体播放器(PMP)或个人数字助理(PDA)。在以下描述中,根据本发明的用于操作用户装置的传感器的方法和设备假定被应用于移动终端。
图1是示出根据本发明的实施例的移动终端的配置的框图。
参照图1,在本发明的实施例中,移动终端包括显示单元110、输入单元120、无线通信单元130、音频处理单元140、相机150、传感器单元160、存储器单元170和控制单元180。
显示单元110显示针对移动终端的步骤所必需的各种功能屏幕。显示单元110在控制单元180的控制下将从控制单元180接收到的图像数据转换为模拟信号,并显示所述模拟信号。显示单元110包括用于当操作移动终端时提供各种屏幕的显示面板和用于支持在显示面板的前侧或后侧上产生输入事件的触摸面板。电阻型面板、电容型面板或电磁感应型面板可用于触摸面板。
显示单元110支持基于深度值(即,屏幕与用户输入部件之间的距离)相应于用户的特定手势来改变屏幕的图形效果的功能,并输出改变的图形效果。
输入单元120产生用于移动终端的步骤的各种输入信号。输入单元120包括用于接收数字或字母信息并设置各种功能的多个输入键和功能键(例如,侧键、热键和主屏幕键)。所述输入单元120产生与对移动终端的功能进行的用户设置和控制有关的键信号,并将所述键信号传送到控制单元180。控制单元180根据响应于键信号的相应输入信号来控制功能。如果移动终端100的触摸面板支持全触摸屏形式,则可通过虚拟触摸板的形式来提供输入单元120。此外,如果触摸面板被包括在显示单元110中,则显示单元110操作为输入单元120。在这种情况下,通过触摸面板来产生用于移动终端的步骤的输入信号。
无线通信单元130执行移动终端的通信。无线通信单元130连同可支持的移动通信网络,形成通信信道并执行通信(诸如,语音通信、视频通信和数据通信)。无线通信单元包括:射频接收器,用于对接收到的信号的频率执行低噪声放大和下变换。如果移动终端未提供无线通信功能,则无线通信单元130可被省略。
音频处理单元140包括:扬声器,用于支持从移动终端100产生的或由移动终端100解码的音频信号的输出;麦克风,用于采集音频信号以便支持语音呼叫、视频电话和记录功能。音频处理单元140可包括编码器/解码器(即,编解码器)。编解码器可包括用于处理分组数据的数据编解码器和用于处理音频信号(诸如,语音)的音频编解码器。音频处理单元140通过音频编解码器将接收到的数字音频信号转换为模拟信号,并通过扬声器播放所述模拟信号。音频处理单元140通过音频编解码器将通过麦克风接收到的模拟音频信号转换为数字音频信号,并将所述数字音频信号传送到控制单元180。
相机150通过捕获来采集图像,并提供采集的图像。相机150包括:相机传感器,用于将接收到的光信号转换为电信号;图像信号处理器,用于将由相机传感器获得的模拟图像信号转换为数字数据;数字信号处理器,用于对视频信号执行图像处理(例如,缩放、去除噪声和转换为RCG信号)以便将从图像信号处理器输出的数字数据显示在触摸屏幕上。相机传感器可以是电荷耦合器件(CCD)传感器或互补金属氧化物半导体(CMOS)传感器,并且,可使用DSP来代替数字信号处理器。相机150在控制单元180的控制下支持用于识别用户手势的传感器功能。相机150可选择性地以后台功能的形式被开启,从而能够将通过镜头采集到的图像传送到控制单元180。
传感器单元160检测用户的输入的变化和周围环境的变化,并将相应信息传送到控制单元180。传感器单元160包括各种类型的传感器(例如,用于识别触摸输入的触摸传感器、用于检测外部对象或用户输入部件的靠近的接近传感器、用于测量触摸输入部件与移动终端之间的距离的距离测量传感器、用于采集图像的图像传感器、用于识别3-D空间中的动作和运动的动作识别传感器、用于识别方向的方向传感器、用于检测运动速度的加速度传感器和环境检测传感器)。在传感器单元160中,根据用户与移动终端之间的距离(即,深度值)来驱动不同传感器。传感器单元160支持用于将由驱动传感器采集的信息传送到控制单元180的功能。
存储器单元170存储移动终端100的操作系统(OS)和各种应用(以下,称为App)以及从移动终端产生的各种数据。数据可包括当运行移动终端的App时产生的数据,也可包括使用移动终端产生或从外部(例如,外部服务器、另一移动终端或PC)接收且被存储的其它类型的数据。存储器单元170存储由移动终端提供的用户界面以及关于与移动终端功能的处理有关的各种类型的设置的信息。存储器单元170还存储用于确定用户手势的映射表。映射表可以是用于存储基于触摸的手势、基于悬停的手势和基于图像(例如,手部动作)的手势的数据库。如果映射表通过特定服务器来提供,则移动终端访问特定服务器并识别根据用户输入的用户手势。存储器单元170还存储关于功能的执行的信息,其中,响应于特定用户手势,基于屏幕和用户输入部件之间的深度值来逐步地设置所述功能。
控制单元180控制移动终端的全部步骤和移动终端的内部元件之间的信号流。控制单元180还执行用于处理数据的功能。控制单元180控制从电池到内部元件的供电。当被供电时,控制单元180控制引导移动终端的处理,并执行存储在程序区域中的各种应用,以便移动终端响应于用户设置来执行功能。
控制单元180包括传感器驱动单元181和手势识别单元182。当传感器单元180检测用户输入部件的靠近时,传感器驱动单元181测量用户输入部件与屏幕之间的深度值。用户输入部件可以是用户的手或触摸笔,但不限于此。控制单元180基于红外线传感器是否检测到热度来确定用户的手是否靠近。传感器驱动单元181基于用户的手的深度值来选择多个传感器中的一个或更多个驱动传感器。例如,如果用户的手靠近屏幕,则传感器驱动单元181仅驱动触摸传感器。相反,如果用户的手远离屏幕,则因为基于触摸传感器的用户输入是有限的,所以传感器驱动单元181关闭触摸传感器。然而,传感器驱动单元181开启红外线传感器或相机传感器,以便收集用户输入信息。如果特定传感器的步骤停止,则传感器驱动单元181控制驱动传感器,使得驱动传感器被关闭。此外,传感器驱动单元181在睡眠模式或待机模式下驱动所述驱动传感器,使得驱动传感器的步骤停止。如果在睡眠模式或待机模式下的传感器需要再次被驱动,则传感器驱动单元181将中断信号传送到传感器以便驱动所述传感器。
传感器驱动单元181选择性地驱动选择的传感器,从被驱动的传感器收集关于被驱动的传感器的信息,并将收集到的信息传送到手势识别单元182。手势识别单元182支持基于关于选择性地被驱动的传感器的信息来确定用户手势的功能。用户手势可包括触摸手势、悬停手势和手部动作手势,但用户手势不限于此。手势识别单元182根据来自驱动传感器的用户输入来提取特性(例如,位置的改变、行为的改变和距离的改变),并识别与提取的特性相匹配的用户手势。
以下参照图2和图3来详细描述控制单元180的功能。
图2和图3示出根据本发明的实施例的用于操作移动终端的传感器的方法。
参照图2和图3,在步骤210,移动终端响应于用户输入或根据预定的安排来开启显示单元110的屏幕。在这种情况下,移动终端在准备接收用户的输入的待机模式下操作,并将根据移动终端的步骤的运行屏幕输出到待机屏幕。运行屏幕可包括主屏幕、App运行屏幕、菜单屏幕、键盘屏幕、消息书写屏幕、互联网屏幕和锁定屏幕。
在步骤220,移动终端确定靠近事件是否已被检测到。用户可将用户输入部件(例如,触摸笔或用户的手)靠近移动终端。
靠近事件包括通过触摸传感器或红外线传感器检测到靠近所述移动终端的对象,但靠近事件不限于对象的检测。例如,如果触摸面板是电容型的,则触摸传感器可基于触摸面板中改变的电容值来检测靠近移动终端的人体部位(例如,手)。此外,红外线传感器可通过检测从人体产生的红外线的变化来检测靠近移动终端的手。当靠近事件被检测到时,移动终端识别出用户输入部件已靠近屏幕。
在步骤230,移动终端测量靠近屏幕的用户输入部件与屏幕之间的距离(即,深度值)。用户输入部件可以是用户的手或触摸笔。在描述于此的本发明的实施例中,用户输入部件被假定为用户的手。深度值可由红外线传感器测量,但本发明不限于此。例如,如果移动终端配备有红外线传感器,则从发光单元产生的红外线从对象被反射,并被光接收单元接收。这里,红外线传感器将关于电压根据接收的红外线的量的变化的信息传送到控制单元180。控制单元180基于关于电压的变化的信息来测量用户输入部件与屏幕之间的距离。
在步骤240,移动终端通过响应于测量的深度值选择性地驱动多个传感器中的一个或更多个传感器来激活手势识别功能。在控制单元180的控制下,根据响应于用户输入部件与屏幕之间的深度值被驱动的传感器,来激活手势识别功能。
例如,如图3所示,本发明的移动终端被假定包括:传感器A,用于检测第一识别区域310中的用户输入;传感器B,用于检测第二识别区域320中的用户输入;传感器C,用户检测第三识别区域330中的用户输入。
传感器A识别在0~L厘米(例如,0~11厘米)距离内靠近或触摸屏幕的用户输入部件。传感器B识别在M厘米~∞厘米(例如,1厘米~300厘米)距离内的用户输入部件。传感器C识别在N厘米~∞厘米距离内的用户输入部件。以下表1列出了传感器A、传感器B和传感器C的特性,其中,所述特性仅是说明性的,单独地被提供以为了便于描述传感器,并且本发明不限于此。
表1
如表1所示,传感器A、B和C在识别用户的输入的范围方面有差异。在现有技术中,因为包括在移动终端中的传感器根据各自的识别区域单独地操作,所以它们具有有限的识别用户的输入的范围。
根据本发明的实施例,移动终端通过根据用户输入部件与屏幕之间的距离选择性地驱动传感器来识别各种用户手势。为此,移动终端支持基于用户输入部件与屏幕之间的深度值,根据图3的302中示出的形式的每个传感器的特性来选择性地驱动传感器A、传感器B和传感器C的功能。例如,如果用户输入部件位于L厘米内,则移动终端仅驱动传感器A。移动终端响应于从传感器A接收到的信号来检测触摸和悬停,并识别方向、可及性、关于坐标的信息和与用户输入有关的深度值。
如果用户输入部件位于L~M厘米内,则移动终端驱动传感器A和传感器B。如果在传感器A和传感器B已被驱动的状态下,用户输入部件的位置改变为在L厘米内的位置,则移动终端停止传感器B的操作。当传感器B停止操作时,移动终端关闭传感器B,但本发明不限于此。例如,移动终端可控制传感器B,使得传感器B在睡眠模式或待机模式下操作。当产生中断信号时,在睡眠模式或待机模式下操作的传感器B再次启动它的传感器功能。
如果用户输入部件位于M~N厘米内,则移动终端仅驱动传感器B。如果用户输入部件位于N厘米~∞厘米内,则移动终端驱动传感器B和传感器C。例如,传感器A可以是触摸传感器,传感器B可以是红外线传感器,并且传感器C可以是相机传感器,但本发明不限于此示例。
如图3的302中所示,可存在以下区域,其中,传感器A的第一识别区域310可与传感器B的第二识别区域320重叠,并且传感器B的第二识别区域320可与传感器C的第三识别区域330重叠。
如果两个或更多个传感器被驱动,则移动终端支持以互补的方式驱动传感器。例如,移动终端可驱动传感器A和传感器B,使得驱动传感器A以仅识别坐标(因为传感器A具有高功耗),并且驱动传感器B以识别方向和深度值。
此外,如果从一个传感器接收到的信号弱于从其它传感器接收到的信号,则移动终端基于从所述其它传感器接收到的更强信号来识别用户手势。移动终端可通过传感器B来检测人体,并确定是否通过传感器A接收到人体检测信号以便提高检测人体的准确度,由此能够提高识别对象的准确度。
在步骤250,移动终端确定用户输入部件的深度值是否已改变。如果确定深度值未被改变,则移动终端返回到步骤230,其中,在所述步骤230中,移动终端基于深度值选择性地驱动传感器。
如果确定深度值已改变,则在步骤260中,移动终端使用基于用户输入部件的深度值被选择性地驱动的传感器来检测用户手势。移动终端响应于检测到的用户手势来执行预定的执行命令。
如上所述,在本发明的实施例中,响应于用户与移动终端之间的深度值来驱动不同的传感器,并且由驱动传感器收集的信息会有所不同。移动终端使用响应于深度值选择性地被驱动的传感器来识别各种用户输入。相应地,尽管由传感器收集的信息指示相同的手势,但移动终端对功能进行细分并操作所述功能,这是因为收集到的信息根据距离而不同。
下文描述基于根据本发明的操作传感器的方法进行的用户交互的详细示例。
图4示出根据本发明的实施例的基于操作传感器的方法与移动终端进行的用户交互。在图4中,假定虚拟拨盘(jog dial)出现在屏幕上方,用户手势被描述为旋转虚拟拨盘430的手势,但本发明不限于此。
参照图4,移动终端响应于来自用户的请求将视频播放屏幕410输出到显示单元110。
用户可把他们的手420靠近屏幕以便执行用于运动图像的特定功能。移动终端检测靠近事件,并测量用户的手420与屏幕之间的深度值(例如,距离)。移动终端通过基于测量的深度值选择性地驱动传感器来激活手势识别功能。
用户可在播放运动图像的同时做出旋转虚拟拨盘430的手势,以便改变播放时间。响应于所述手势,移动终端基于选择性地被驱动的传感器来检测使用指尖的输入(例如,多点触摸区域或多点悬停区域的输入)。如果距离首先输入的原点超过特定角度θ的动作被检测到,则移动终端确定已做出旋转虚拟拨盘430的手势。在这种情况下,移动终端根据手势的运动方向来前后移动运动图像的播放或执行快速倒回功能。
在本发明的实施例中,因为基于用户的手420与屏幕之间的距离来激活不同的传感器,所以移动终端响应于由传感器收集的信号来细分和识别用户的输入。
例如,用户的手420可具有以下状态:手420已触摸屏幕的状态、手420已经在第一距离与屏幕分离的状态、手420已经在第二距离与屏幕分离的状态、手420已经在第三距离与屏幕分离的状态。如果手420已触摸屏幕,则移动终端可选择性地仅驱动第一传感器。如果手420已经在第一距离与屏幕分离,则移动终端可驱动第一传感器和第二传感器。如果手420已经在第二距离与屏幕分离,则移动终端可仅驱动第二传感器。如果手420已经在第三距离与屏幕分离,则移动终端可驱动第二传感器和第三传感器。
以下表2列出根据被激活的传感器关于可识别用户输入的信息和关于分类的功能的信息。
表2
如上所述,用户可基于用户的手420与屏幕之间的深度值以非常小的单位来控制功能(诸如,快速倒回功能或倒回功能),或以大单位来控制所述功能。此外,旋转虚拟拨盘的手势可应用于除运动图像的播放之外的各种App(诸如音量控制功能和音频通道搜索功能)。
图5示出根据本发明的另一实施例的基于操作传感器的方法与移动终端进行的用户交互。在图5中,用户手势被描述为抓住并上拉对象的手势,但本发明不限于此。
参照图5,移动终端响应于用户输入来输出包括至少一个对象的屏幕510。
用户可将他们的手530靠近屏幕510以便操纵显示在显示单元110上的屏幕。响应于此,移动终端响应于手530与屏幕510之间的深度值来选择传感器。
用户可做出使用手530抓住显示在屏幕上的特定对象520的手势,并可做出使特定对象520远离屏幕的手势。响应于此,移动终端选择显示在与指尖被检测到的区域相应的位置上的特定对象520,并输出图形效果(诸如选择的特定对象被上拉的效果)。
在这种情况下,虽然响应于用户的手530与屏幕510之间的深度值,可改变驱动传感器,但移动终端保持上拉特定对象520的手势的识别。
此外,如图5的502所示,移动终端响应于来自用户的请求将2-D地图屏幕540输出到显示单元。在这种情况下,可选择2-D地图屏幕中的特定位置。在2-D地图屏幕已被显示的状态下,用户可做出抓住对象的手势和使对象远离屏幕的手势。
响应于此,移动终端识别抓住手势和上拉手势,并提供以下图形效果:以3-D图像形式输出包括与特定位置的选择的位置相应的地图的屏幕550。
图6示出根据本发明的实施例的基于操作传感器的方法根据移动终端与用户的手之间的距离来提供不同的视觉反馈的移动终端的屏幕。
参照图6,根据屏幕与用户的手之间的距离并基于用户的特定手势,移动终端可通过不同的方式来改变用于屏幕的图形效果。移动终端然后提供改变的图形效果。
例如,如图6的601所示,用户可将他的手靠近屏幕620并做出迅速移动手的扫掠手势610。响应于此,移动终端识别用户的扫掠手势610,并响应于扫掠手势610提供在屏幕620上波浪上升的图形效果。根据本发明的实施例,如果用户将他的手更加靠近屏幕并做出扫掠手势610,则移动终端输出在屏幕620上更强的波浪上升的图形效果。如果用户将他的手远离屏幕然后做出扫掠手势610,则移动终端输出在屏幕620上较弱的波浪上升的图形效果。例如,以下表3列出传感器根据扫掠手势610的图形效果,但本发明不限于此示例。
表3
此外,如图6的602所示,用户可将一根手指靠近屏幕并执行指点(pointing)手势630,其中,在指点手势630期间,一段时间过去。
响应于此,移动终端识别用户的指点手势,并提供水滴落到屏幕生成波纹的图形效果640。根据本发明的实施例,移动终端输出以下图形效果:随着手指离开屏幕的距离增加,波纹的大小增大,好像水滴从更高的距离落下。
例如,以下表4示出传感器根据指点手势630的图形效果,但本发明不限于此示例。
表4
图7到图9示出根据本发明的实施例的基于操作传感器的方法被移动终端识别的各种用户手势。
参照图7的(a)到(j),移动终端支持通过响应于用户的手与屏幕之间的深度值选择性地开启手势识别传感器,来识别手势的功能。根据本发明的实施例,通过选择性地开启和驱动传感器来识别各种类型的手势,以便扩大识别用户手势的范围。
图7的(a)到(j)是在未触摸屏幕的情况下使用一只手进行的用户交互的示例。在图7的(a)中,移动终端识别以下手势:在触摸传感器和红外线传感器已被驱动的状态下,使手掌指向触摸传感器和红外线传感器,使手掌靠近屏幕,然后拉动手掌远离屏幕。在图7的(b)中,移动终端识别以下手势:垂直地放置手掌,然后沿特定方向(向右、向左、向上或向下)迅速地移动手掌。在图7的(c)中,移动终端识别以下手势:使手掌指向红外线传感器、触摸传感器和相机传感器然后水平地摇动手掌(左方向和右方向)。在图7的(d)中,移动终端识别以下手势:在红外线传感器、触摸传感器和相机传感器已被驱动的状态下,使手掌靠近红外线传感器、触摸传感器和相机传感器。在图7的(e)中,移动终端识别以下手势:在触摸传感器和相机传感器已被驱动的状态下,将两个手指向内捏或向外张。在图7的(f)中,移动终端识别以下手势:在触摸传感器已被驱动的状态下,测量指尖的位置,其中,指尖与屏幕之间插有特定距离。在图7的(g)中,移动终端识别顺时针转动手的手势。在图7的(h)中,根据被驱动的传感器的类型,移动终端识别逆时针转动手的手势。在图7的(i)中,移动终端识别将手靠近传感器然后保持覆盖特定时间的手势。在图7的(j)中,移动终端识别推动手掌靠近传感器的手势。
如图8所示,移动终端还根据选择性地被驱动的传感器识别使用双手的各种类型的用户交互。图8的(a)是推动两个手掌靠近传感器的手势,图8的(b)是将两个手掌指向传感器然后拓宽双手之间的距离的手势。图8的(c)是将两个手掌水平地彼此面对然后旋转手掌使得它们垂直地彼此面对的手势。图8的(d)是将两个手掌水平地彼此面对然后将手掌移动到一起的手势。此外,在图8的(e)中,根据本发明的实施例,移动终端识别以下手势:在某一只手正触摸屏幕的状态下将另一只手靠近屏幕,但移动的手尚未触摸屏幕。
此外,如图9的(a)-(g)中所示,本发明的移动终端基于手的形状识别各种手部动作手势。图9的(a)中是将手掌指向输入单元120的手部动作。图9的(b)是握紧拳头并将拳头指向输入单元120的手部动作。图9的(c)是在拳头被紧握的状态下仅使拇指向上的手部动作。图9的(d)是将食指指向输入单元120的手部动作。图9的(e)是使用拇指和食指形成圆圈并伸展其余手指的手部动作。图9的(f)是伸展期望数量的手指的手部动作。图9的(g)是将手掌朝向传感器伸展然后抓住手指的手部动作。根据本发明的实施例,图9的(a)-(g)是可被识别的手部动作的示例,但本发明不限于此示例。
根据本发明的实施例,根据用于操作移动终端的传感器的方法和设备,通过响应于深度值(即,装置与用户输入部件(例如,用户的手)之间的距离)选择性地开启多个传感器,多个具有不同特性的传感器如一个传感器一样进行操作。
此外,根据本发明的实施例,在宽范围内识别手势,这是因为尽管一个传感器没有准确地识别用户输入,但可由另一传感器灵活地增补用户输入。因此,可提高输入的准确度和可靠性。此外,如果根据本发明的特定传感器具有高功耗,则可通过在相同的识别范围用低功耗的传感器增补所述特定传感器来降低功耗。
如上所述,以上已通过说明书和附图描述了根据本发明的用于操作用户装置的传感器的方法和设备。尽管使用了特定术语,但仅根据它们的普通含义来使用所述术语,以便容易地描述本发明的技术内容并有助于理解本发明。本发明不限于前述的本发明的实施例。也就是说,本领域的技术人员将清楚的是:各种基于本发明的技术精神的实施例可被实施。

Claims (15)

1.一种操作用户装置的多个传感器的方法,所述方法包括:
检测用户输入部件;
测量用户输入部件与用户装置的屏幕之间的深度值;
通过基于测量的深度值选择性地驱动所述多个传感器中的一个或更多个传感器来激活手势识别功能;以及
基于由被选择性地驱动的传感器收集的信息段来识别用户手势。
2.根据权利要求1所述的方法,其中,激活手势识别功能的步骤包括:
确定所述多个传感器中的哪个传感器具有包括测量的深度值的识别范围;以及
选择性地驱动所述多个传感器中确定的一个或更多个传感器。
3.根据权利要求1所述的方法,还包括:当用户输入部件的深度值改变时,响应于改变的深度值来驱动不同的传感器。
4.根据权利要求1所述的方法,还包括:响应于基于由被选择性地驱动的传感器收集的信息段中的每个信息段的用户手势来执行功能。
5.根据权利要求4所述的方法,其中,运行功能的步骤包括:
基于用户输入部件的深度值,根据功能的执行来提供视觉反馈。
6.根据权利要求1所述的方法,其中,用户手势包括:根据由被选择性地驱动的传感器收集的信息段被分类和设置的特定手势。
7.根据权利要求1所述的方法,其中,识别用户手势的步骤包括:基于由被选择性地驱动的传感器收集的信息段来识别以下项中的至少一个:单点触摸手势、多点触摸手势、单点悬停手势、多点悬停手势和手部动作手势。
8.一种用户装置,包括:
传感器单元,被配置为包括:多个传感器,用于检测用户输入和输入的改变;以及
控制单元,被配置为检测用户输入部件,测量用户输入部件与用户装置的屏幕之间的深度值,通过基于测量的深度值选择性地驱动所述多个传感器中的一个或更多个传感器来激活手势识别功能,并基于由被选择性地驱动的传感器收集的信息段来识别用户手势。
9.根据权利要求8所述的用户装置,其中,传感器单元包括以下传感器中的一个或更多个传感器:触摸传感器,用于识别触摸输入;接近传感器,用于检测外部对象或用户输入部件的接近;距离测量传感器,用于测量触摸输入部件与用户装置之间的距离;图像传感器,用于采集图像;动作识别传感器,用于在3-D空间中识别动作和运动;方向传感器,用于检测方向;加速度传感器,用于检测运动速度;和环境检测传感器。
10.根据权利要求8所述的用户装置,其中,所述控制单元确定所述多个传感器中的哪个传感器具有包括测量的深度值的识别范围,并选择性地驱动确定的一个或更多个传感器。
11.根据权利要求8所述的用户装置,其中,当确定用户输入部件的深度值已改变时,控制单元响应于改变的深度值来驱动不同的传感器。
12.根据权利要求8所述的用户装置,还包括:存储器单元,用于存储响应于基于由传感器收集的信息段的用户手势而设置的功能执行命令。
13.根据权利要求8所述的用户装置,其中,控制单元响应于识别的用户手势,基于功能执行命令和深度值来提供不同的视觉反馈。
14.根据权利要求8所述的用户装置,其中,用户手势包括:根据由被选择性地驱动的传感器收集的信息段被分类和设置的特定手势。
15.根据权利要求8所述的用户装置,其中,所述控制单元基于由被选择性地驱动的传感器收集的信息段来识别以下项中的至少一个:单点触摸手势、多点触摸手势、单点悬停手势、多点悬停手势和手部动作手势。
CN201410095200.XA 2013-03-14 2014-03-14 用于操作用户装置的传感器的方法和设备 Pending CN104049738A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2013-0027223 2013-03-14
KR1020130027223A KR20140114913A (ko) 2013-03-14 2013-03-14 사용자 기기의 센서 운용 방법 및 장치

Publications (1)

Publication Number Publication Date
CN104049738A true CN104049738A (zh) 2014-09-17

Family

ID=50486720

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410095200.XA Pending CN104049738A (zh) 2013-03-14 2014-03-14 用于操作用户装置的传感器的方法和设备

Country Status (3)

Country Link
EP (1) EP2778849A1 (zh)
KR (1) KR20140114913A (zh)
CN (1) CN104049738A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106445141A (zh) * 2016-09-23 2017-02-22 广东小天才科技有限公司 一种电容触摸屏终端的控制方法及装置
CN106502415A (zh) * 2016-11-08 2017-03-15 成都定为电子技术有限公司 省电型电子设备控制手套
CN107209637A (zh) * 2014-11-21 2017-09-26 雷诺两合公司 图形界面以及用于在触摸选择所显示元素期间管理所述图形界面的方法
CN108351692A (zh) * 2015-10-30 2018-07-31 三星电子株式会社 手势感测方法和支持其的电子设备
WO2021098576A1 (zh) * 2019-11-20 2021-05-27 Oppo广东移动通信有限公司 手部姿态估计方法、装置及计算机存储介质

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SE533704C2 (sv) 2008-12-05 2010-12-07 Flatfrog Lab Ab Pekkänslig apparat och förfarande för drivning av densamma
CN107209608A (zh) 2015-01-28 2017-09-26 平蛙实验室股份公司 动态触摸隔离帧
WO2016130074A1 (en) 2015-02-09 2016-08-18 Flatfrog Laboratories Ab Optical touch system comprising means for projecting and detecting light beams above and inside a transmissive panel
EP4075246B1 (en) 2015-12-09 2024-07-03 FlatFrog Laboratories AB Stylus for optical touch system
KR102406327B1 (ko) * 2016-02-02 2022-06-10 삼성전자주식회사 출력 장치를 제어하는 방법 및 장치
US10761657B2 (en) 2016-11-24 2020-09-01 Flatfrog Laboratories Ab Automatic optimisation of touch signal
KR102629629B1 (ko) 2016-12-07 2024-01-29 플라트프로그 라보라토리즈 에이비 개선된 터치 장치
WO2018141948A1 (en) 2017-02-06 2018-08-09 Flatfrog Laboratories Ab Optical coupling in touch-sensing systems
US20180275830A1 (en) 2017-03-22 2018-09-27 Flatfrog Laboratories Ab Object characterisation for touch displays
CN110663015A (zh) 2017-03-28 2020-01-07 平蛙实验室股份公司 触摸感应装置和用于组装的方法
CN117311543A (zh) 2017-09-01 2023-12-29 平蛙实验室股份公司 触摸感测设备
US11567610B2 (en) 2018-03-05 2023-01-31 Flatfrog Laboratories Ab Detection line broadening
CN112889016A (zh) 2018-10-20 2021-06-01 平蛙实验室股份公司 用于触摸敏感装置的框架及其工具
WO2020153890A1 (en) 2019-01-25 2020-07-30 Flatfrog Laboratories Ab A videoconferencing terminal and method of operating the same
CN110187796B (zh) * 2019-05-31 2021-07-16 联想(北京)有限公司 一种电子设备及数据处理方法
CN114730228A (zh) 2019-11-25 2022-07-08 平蛙实验室股份公司 一种触摸感应设备
JP2023512682A (ja) 2020-02-10 2023-03-28 フラットフロッグ ラボラトリーズ アーベー 改良型タッチ検知装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101644979A (zh) * 2008-07-31 2010-02-10 苹果公司 位于黑障板后面的电容传感器
CN102037648A (zh) * 2008-06-03 2011-04-27 大陆汽车有限责任公司 用于接近识别的探测系统
WO2011136783A1 (en) * 2010-04-29 2011-11-03 Hewlett-Packard Development Company L. P. System and method for providing object information
US20120154303A1 (en) * 2010-09-24 2012-06-21 Research In Motion Limited Method for conserving power on a portable electronic device and a portable electronic device configured for the same

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9098138B2 (en) * 2010-08-27 2015-08-04 Apple Inc. Concurrent signal detection for touch and hover sensing
DE112010005893T5 (de) * 2010-10-22 2013-07-25 Hewlett-Packard Development Company, L.P. Auswerten einer Eingabe relativ zu einer Anzeige
DE102011119137A1 (de) * 2010-11-25 2012-05-31 Marquardt Gmbh Bedienvorrichtung

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102037648A (zh) * 2008-06-03 2011-04-27 大陆汽车有限责任公司 用于接近识别的探测系统
CN101644979A (zh) * 2008-07-31 2010-02-10 苹果公司 位于黑障板后面的电容传感器
WO2011136783A1 (en) * 2010-04-29 2011-11-03 Hewlett-Packard Development Company L. P. System and method for providing object information
US20120154303A1 (en) * 2010-09-24 2012-06-21 Research In Motion Limited Method for conserving power on a portable electronic device and a portable electronic device configured for the same

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107209637A (zh) * 2014-11-21 2017-09-26 雷诺两合公司 图形界面以及用于在触摸选择所显示元素期间管理所述图形界面的方法
CN107209637B (zh) * 2014-11-21 2020-07-07 雷诺两合公司 图形界面以及用于在触摸选择所显示元素期间管理所述图形界面的方法
CN108351692A (zh) * 2015-10-30 2018-07-31 三星电子株式会社 手势感测方法和支持其的电子设备
CN106445141A (zh) * 2016-09-23 2017-02-22 广东小天才科技有限公司 一种电容触摸屏终端的控制方法及装置
CN106445141B (zh) * 2016-09-23 2019-09-17 广东小天才科技有限公司 一种电容触摸屏终端的控制方法及装置
CN106502415A (zh) * 2016-11-08 2017-03-15 成都定为电子技术有限公司 省电型电子设备控制手套
WO2021098576A1 (zh) * 2019-11-20 2021-05-27 Oppo广东移动通信有限公司 手部姿态估计方法、装置及计算机存储介质

Also Published As

Publication number Publication date
KR20140114913A (ko) 2014-09-30
EP2778849A1 (en) 2014-09-17

Similar Documents

Publication Publication Date Title
CN104049738A (zh) 用于操作用户装置的传感器的方法和设备
US11513608B2 (en) Apparatus, method and recording medium for controlling user interface using input image
KR102160767B1 (ko) 제스처를 감지하여 기능을 제어하는 휴대 단말 및 방법
CN104049737B (zh) 用户设备的对象控制方法和装置
KR102031142B1 (ko) 영상 디스플레이를 제어하는 전자 장치 및 방법
KR102035305B1 (ko) 휴대 단말에서 햅틱 효과를 제공하는 방법 및 기계로 읽을 수 있는 저장 매체 및 휴대 단말
US20130324089A1 (en) Method for providing fingerprint-based shortcut key, machine-readable storage medium, and portable terminal
CN107193455B (zh) 一种信息处理方法及移动终端
US20150077362A1 (en) Terminal with fingerprint reader and method for processing user input through fingerprint reader
WO2018082269A1 (zh) 菜单显示方法及终端
EP2579145A2 (en) Accessory to improve user experience with an electronic display
US20140267025A1 (en) Method and apparatus for operating sensors of user device
KR101815720B1 (ko) 진동 제어 방법 및 장치
CN106201126B (zh) 触摸屏和指纹识别实现装置及终端设备
CN107066167A (zh) 一种区域选择方法、装置和图形用户界面
JP2015007949A (ja) 表示装置、表示制御方法及びコンピュータプログラム
CN106909256A (zh) 屏幕控制方法及装置
WO2019091124A1 (zh) 一种终端的用户界面显示方法和终端
CN108536366A (zh) 一种应用程序窗口调整方法及终端
KR20150007577A (ko) 데이터 병합을 제어하는 휴대 단말 및 방법
KR20150008963A (ko) 스크린을 제어하는 휴대 단말 및 방법
JP2023179345A (ja) 情報入力方法及び装置、電子機器並びに記憶媒体
CN109871175A (zh) 一种终端设备控制方法和终端设备
KR20140092106A (ko) 터치 스크린 상의 사용자 입력을 처리하는 방법 및 단말과 저장 매체
US10101830B2 (en) Electronic device and method for controlling operation according to floating input

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20140917

WD01 Invention patent application deemed withdrawn after publication