CN104808783B - 移动终端及其控制方法 - Google Patents

移动终端及其控制方法 Download PDF

Info

Publication number
CN104808783B
CN104808783B CN201410836903.3A CN201410836903A CN104808783B CN 104808783 B CN104808783 B CN 104808783B CN 201410836903 A CN201410836903 A CN 201410836903A CN 104808783 B CN104808783 B CN 104808783B
Authority
CN
China
Prior art keywords
mobile terminal
user
information
wearer
external equipment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201410836903.3A
Other languages
English (en)
Other versions
CN104808783A (zh
Inventor
许精允
朴浩热
金灿权
姜元皙
李政宰
俞智湧
金玟锡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Electronics Inc
Original Assignee
LG Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LG Electronics Inc filed Critical LG Electronics Inc
Publication of CN104808783A publication Critical patent/CN104808783A/zh
Application granted granted Critical
Publication of CN104808783B publication Critical patent/CN104808783B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6802Sensor mounted on worn items
    • A61B5/681Wristwatch-type devices
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1123Discriminating type of movement, e.g. walking or running
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6813Specially adapted to be attached to a specific body part
    • A61B5/6824Arm or wrist
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6843Monitoring or controlling sensor contact pressure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/001Alarm cancelling procedures or alarm forwarding decisions, e.g. based on absence of alarm confirmation
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/01Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
    • G08B25/016Personal emergency signalling and security systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/3827Portable transceivers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/3827Portable transceivers
    • H04B1/385Transceivers carried on the body, e.g. in helmets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/04Supports for telephone transmitters or receivers
    • H04M1/05Supports for telephone transmitters or receivers specially adapted for use on head, throat or breast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/021Measuring pressure in heart or blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/08Detecting, measuring or recording devices for evaluating the respiratory organs
    • A61B5/0816Measuring devices for examining respiratory frequency
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/318Heart-related electrical modalities, e.g. electrocardiography [ECG]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/389Electromyography [EMG]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6898Portable consumer electronic devices, e.g. music players, telephones, tablet computers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/3827Portable transceivers
    • H04B1/385Transceivers carried on the body, e.g. in helmets
    • H04B2001/3855Transceivers carried on the body, e.g. in helmets carried in a belt or harness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/3827Portable transceivers
    • H04B1/385Transceivers carried on the body, e.g. in helmets
    • H04B2001/3861Transceivers carried on the body, e.g. in helmets carried in a hand or on fingers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/12Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion

Abstract

本公开涉及一种移动终端及其控制方法。提供一种移动终端,包括:主体;感测单元,该感测单元感测主体的佩戴、关于佩戴者的运动信息、以及佩戴者的生物信号;用户输入单元,当感测到主体的佩戴时用于激活记录模式或者控制模式的控制命令被输入到该用户输入单元;以及控制器,在记录模式下,记录在特定情形下的运动信息和生物信号并且存储在特定情形下出现的运动模式,并且在控制模式下感测运动信息和生物信号,以及当检测到与感测到的运动信息和生物信号相对应的特定情形下的已经存储的运动模式时,将与检测到的运动模式相对应的控制命令提供给被连接的外部设备。

Description

移动终端及其控制方法
技术领域
本公开涉及一种可佩戴在用户的身体的一部分上的移动终端和控制该移动终端的方法。
背景技术
终端根据它们的移动性通常可以被分类成移动/便携式终端或者固定终端。根据是否用户能够直接地携带终端,移动终端也可以被分类成手持式终端或者车载终端。
移动终端已经变成日益增长功能。这样的功能的示例包括数据和语音通信、经由相机捕获图像和视频、再现音频、经由扬声器系统播放音乐文件、以及在显示器上显示图像和视频。一些移动终端包括支持玩游戏的附加的功能,而其它的终端被配置为多媒体播放器。最近,移动终端已经被配置成接收允许诸如视频和电视节目的内容的观看的广播和多播信号。
对支持和增加移动终端的功能进行不断努力。这样的努力包括软件和硬件改进,以及在结构组件上的变化和改进。
由于这些改进,终端已经演进成各种类型的设计。具体地,使终端更加轻质并且更加小型化已经使其能够实现能够被佩戴在用户身体的一部分上的终端,诸如眼镜式终端、手表式终端、项链式终端、手镯式终端、以及戒指式终端。此外,能够被附接到衣服的终端也在开发当中。当这样的终端被佩戴在用户的身体的任何部分上以便于根据用户的用途和意图被使用时,能够检测到佩戴者的运动和生物信号并且因此能够执行各种功能。
通过引用上述参考被合并在此,其适合于附加的或者可替代的详情、特征以及/或者技术背景的适当的教导。
发明内容
因此,详细描述的一个方面是为了提供一种移动终端和控制移动终端的方法,该移动终端能够检测和记录在特定的情形下佩戴主体的用户的运动和生物信号并且当其后相同的情形出现时使用被记录的信息执行特定功能。
详细描述的另一方面是为了移动终端和控制该移动终端的方法,该移动终端能够存储在特定情形下记录的佩戴者的运动和佩戴者的生物信号的模式并且当检测到与被记录的模式相同的运动和生物信号时控制与特定情形相关联的至少一个外部设备。
详细描述的又一方面是为了提供一种移动终端和控制移动终端的方法,该移动终端能够检测佩戴主体的用户的运动和用户的生物信号并且显示与所识别的手势相关联的图像。
为了实现这些和其它的优点并且根据本发明的用途,如在此具体化和广泛地描述的,本发明在一个方向中提供一种移动终端,包括:主体;感测单元,该感测单元感测是否用户正在佩戴主体、用户的运动信息、以及用户的生物信号;用户输入单元,当感测到主体正在被用户佩戴时该用户输入单元接收用于激活记录模式或者控制模式的控制命令;以及控制器,该控制器被配置成,在记录模式和控制模式下控制移动终端,其中在记录模式下,记录在规定情形下的关于用户的运动信息和用户的生物信号,并且存储在规定情形下出现的运动模式,并且在控制模式下,感测关于用户的运动信息和用户的生物信号,并且当感测到的运动信息和感测到的生物信号对应于所存储的用于规定情形的运动模式时,将与所存储的运动模式相对应的控制命令提供给被连接的外部设备。
在另一方面中,当输入第一输入信号并且然后感测运动信息和生物信号时,生成与第一输入信号相对应的用于在规定情形下激活记录模式的控制命令,并且其中,当输入第一输入信号并且然后感测超过参考值的关于用户的运动信息和用户的生物信号时,生成用于激活控制模式的控制命令。
在另一方面中,其中第一输入信号是对应于佩戴主体和外部设备之间的连接的感测信号。
在另一方面中,其中基于第一输入信号、通过被设置在主体上的相机获得的环境图像信息、或者通过无线通信单元接收到的主体的位置信息中的至少一个识别规定情形。
在另一方面中,其中,当感测在主体和外部设备之间的连接时,将用于激活与被连接的外部设备相关联的记录模式或者控制模式的控制命令提供给用户输入单元。
在另一方面中,其中,如果多个外部设备被连接到主体,则基于与被连接的外部设备相关联的时间信息或环境声音信息中的至少一个选择要在控制模式下控制的规定外部设备。
在另一方面中,移动终端可以进一步包括:显示单元,该显示单元在记录模式下显示与规定情形相对应的屏幕信息,其中屏幕信息包括指示记录模式的激活的第一图形对象和指示关于用户的运动信息和用户的生物信号被改变的程度的第二图形对象。
在另一方面中,其中屏幕信息进一步包括指示与记录模式的激活相对应的时间信息的第三图形对象和指示关于用户的运动信息和用户的生物信号与已经存储的运动模式相匹配的程度的第四图形对象。
在另一方面中,其中在记录模式下,控制器识别在特定情形下出现的运动模式的重复并且进一步存储关于所重复的运动模式的累积信息和平均信息。
在另一方面中,其中,在记录模式或者控制模式下,控制器控制显示单元以显示与关于所重复的运动模式的累积信息和平均信息相关联的附加信息。
在另一方面中,当在规定情形下感测第二输入信号时,将与在记录模式下重复地记录的关于用户的运动信息和用户的生物信号相对应的信息提供给被连接的外部设备。
在另一方面中,移动终端进一步包括无线通信单元,该无线通信单元接收关于主体的位置信息,其中,在控制模式下,控制器接收与在规定情形下关于用户的运动信息和用户的生物信号中的变化相对应的位置信息并且将接收到的位置信息提供给被连接的外部设备。
在另一方面中,移动终端可以进一步包括显示单元,该显示单元被配置成在控制模式下显示指示控制模式的激活的第一图像和与规定情形相对应的第二图像。
在另一方面中,其中,在控制模式下,控制器识别与感测到的运动信息和生物信号相对应的手势,对与所识别的手势相关联的至少一个图像进行网络搜索,并且将搜索到的图像提供给显示单元。
在另一方面中,移动终端进一步包括:无线通信单元,该无线通信单元将图像信息发送到被连接的外部设备,其中,在控制模式下,将对应于与所识别的手势相关联的至少一个图像的图像信息通过无线通信单元被传输给被连接的外部设备。
在另一方面中,其中,在控制模式下,当响应于接收与运动模式相对应的控制命令接收第一信号时,控制器将与第一信号相对应的第一屏幕信息显示在显示单元上,并且当输入被接收以确认第一屏幕信息时,如果从被连接的外部设备接收与执行对应于运动模式的控制命令的结果相对应的第二信号,则控制器在显示单元上显示与第二信号相对应的第二屏幕信息。
在另一方面中,其中,在控制模式下,当检测到所存储的用于与感测到的运动信息和生物信号相对应的规定情形的运动模式时,控制器根据对应于检测到的运动模式的控制命令控制被连接的外部设备的操作,并且当没有检测到所存储的用于与感测到的运动信息和生物信号相对应的规定情形下的运动模式时,控制器通过记录模式提供指南以引导用户。
在另一方面中,其中,当到外部设备的连接被建立时,将对应于用户的生物信号的关于用户的状态信息提供给外部设备,并且当状态信息指示用户处于不能够输入运动信息的状态时,控制器基于以不同输入方式输入的控制命令控制外部设备。
在另一方面中,本发明提供一种控制移动终端的方法,该移动终端被配置成连接到至少一个外部设备,该方法包括:感测是否移动终端的主体正在被用户佩戴;当主体被感测为正在被用户佩戴时输入用于激活记录模式或者控制模式的控制命令;当记录模式被激活时记录在规定情形下的关于主体的用户的运动信息和用户的生物信号并且存储在规定情形下出现的运动模式;以及当控制模式被激活时感测关于用户的运动信息和用户的生物信号,并且当感测到的运动信息和感测到的生物信号对应于所存储的用于规定情形的运动模式时,提供与所存储的运动模式相对应的控制命令以控制被连接的外部设备。
在另一方面中,该方法进一步包括在记录模式或者控制模式下将与规定情形相对应的屏幕信息输出到屏幕。
根据在下文中给出的详细描述,本申请的进一步的应用范围将变得更加显然。然而,应理解的是,仅通过说明给出指示本发明的优选实施例的特定示例和详细描述,因为对本领域的技术人员来说本发明的精神和范围内的各种变化和修改将变得更加显然。
附图说明
将会参考下面的附图详细地描述实施例,其中相同的附图标记指的是相同的元件,其中:
图1A是用于描述根据本公开的移动终端的框图;
图1B和图1C是图示当从不同的方向观看时的根据本公开的移动终端的图;
图2是图示根据本公开的另一实施例的手表式移动终端的一个示例的透视图;
图3是用于描述根据本公开的实施例的控制移动终端的方法的流程图;
图4A至图4E是用于描述图3中的流程图的图;
图5是均图示根据本公开的实施例的将不同的生物信号提供给移动终端的佩戴者的手势的示例的图;
图6A至图6D是用于描述根据本公开的实施例的识别移动终端的佩戴者的手势并且显示与手势相关联的屏幕信息的方法的图;
图7A至图7D是用于描述根据本公开的实施例的检测佩戴者的运动模式并且控制被连接到移动终端的外部设备的方法的图;
图8A至图8E是用于描述根据本公开的实施例的在移动终端中在记录模式或者控制模式下显示与佩戴者的手势相关联的屏幕信息的方法的图;
图9A至图9F是用于描述根据本公开的实施例的识别佩戴者的运动模式的重复并且显示被关联的信息的方法的图;
图10A至图10D是用于描述根据本公开的实施例的使用与关于佩戴者的运动信息和佩戴者的生物信号中的变化相对应的位置信息控制外部设备的方法的图;
图11A至图11D是用于描述根据本公开的实施例的显示与通过被连接的外部设备提供的反馈信号相关联的屏幕信息的方法的图;以及
图12A至图12C是图示根据本公开的实施例的基于关于佩戴者的状态信息以不同的方式控制外部设备的方法的图。
具体实施方式
可以使用各种不同类型的终端实现在此提出的移动终端。这样的终端的示例包括蜂窝电话、智能电话、用户设备、膝上型计算机、数字广播终端、个人数字助理(PDA)、便携式多媒体播放器(PMP)、导航仪、便携式计算机(PC)、板式PC、平板PC、超级本、可佩戴设备(例如,智能手表、智能眼镜、头戴式显示器(HMD))等等。
仅通过非限制性示例,将会参考特定类型的移动终端进行进一步的描述。然而,这样的教导同等地应用于其它类型的终端,诸如在上面注明的那些类型。另外,这样的教导也可以被应用于诸如数字TV、桌上型计算机等等的固定终端。
现在参考图1A-1C,其中图1A是根据本公开的移动终端的框图,并且图1B和图1C是从不同的方向看到的移动终端的一个示例的概念视图。
示出移动终端100,该移动终端100具有诸如无线通信单元110、输入单元120、感测单元140、输出单元150、接口单元160、存储器 170、控制器180、以及电源单元190的组件。要理解的是,不要求实现所有图示的组件,并且可以替换地实现更多或者更少的组件。
现在参考图1A,示出具有无线通信单元110的移动终端100,该无线通信单元110被配置有数个通常实现的组件。例如,无线通信单元110通常包括允许在移动终端100和无线通信系统或者移动终端位于的网络之间的无线通信的一个或者多个组件。
无线通信单元110通常包括一个或者多个模块,其允许在移动终端100和无线通信系统之间的诸如无线通信的通信、在移动终端100 和另一移动终端之间的通信、在移动终端100与外部服务器之间通信。此外,无线通信单元110通常包括将移动终端100连接到一个或者多个网络的一个或者多个模块。为了有助于这样的通信,无线通信单元 110包括广播接收模块111、移动通信模块112、无线互联网模块113、短程通信模块114、以及位置信息模块115中的一个或者多个。
输入单元120包括:用于获得图像或者视频的相机121;麦克风 122,该麦克风122是一种用于输入音频信号的音频输入设备;以及用于允许用户输入信息的用户输入单元123(例如,触摸键、推动键、机械键、软键等等)。数据(例如,音频、视频、图像等等)通过输入单元120被获得并且可以根据设备参数、用户命令、以及其组合通过控制器180分析和处理。
通常使用被配置成感测移动终端的内部信息、移动终端的周围环境、用户信息等等的一个或者多个传感器实现感测单元140。例如,在图1A中,示出具有接近传感器141和照明传感器142的感测单元140。
必要时,感测单元140可以替换地或者附加地包括其它类型的传感器或者设备,诸如触摸传感器、加速度传感器、磁传感器、G传感器、陀螺仪传感器、运动传感器、RGB传感器、红外(IR)传感器、手指扫描传感器、超声传感器、光学传感器(例如,相机121)、麦克风122、电池量表、环境传感器(例如,气压计、湿度计、温度计、辐射监测传感器、热传感器、以及气体传感器等)、以及化学传感器(例如,电子鼻、医疗传感器、生物传感器等等)等等。移动终端100可以被配置成利用从感测单元140获得的信息,并且特别地,从感测单元140的一个或者多个传感器及其组合获得的信息。
输出单元150通常被配置成输出诸如音频、视频、触觉输出等等的各种类型的信息。示出具有显示单元151、音频输出模块152、触觉模块153、以及光学输出模块154的输出单元150。
显示单元151可以具有与触摸传感器的层间结构或者集成结构以便于有助于触摸屏幕。触摸屏幕可以提供在移动终端100和用户之间的输出界面,并且用作提供在移动终端100和用户之间的输入界面的用户输入单元123。
接口单元160用作能够被耦合到移动终端100的各种类型的外部设备的接口。例如,接口单元160可以包括任何有线或者无线端口、外部电源端口、有线或者无线数据端口、存储卡端口、用于连接具有认证模块的设备的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。在一些情况下,响应于外部设备被连接到接口单元160,移动终端100可以执行与被连接的外部设备相关联的各种控制功能。
存储器170通常被实现为存储数据以支持移动终端100的各种功能或者特征。例如,存储器170可以被配置成存储在移动终端100中执行的应用程序、用于移动终端100的操作的数据或者指令等等。经由无线通信可以从外部服务器下载这些应用程序中的一些。在制造或者装运时其它的应用程序可以被安装在移动终端100内,其通常是用于移动终端100的基本功能(例如,接收呼叫、拨打电话、接收消息、发送消息等等)的情况。应用程序被存储在存储器170中、安装在移动终端100中,并且通过控制器180执行以执行用于移动终端100的操作(或者功能)是常见的。
除了与应用相程序关联的操作,控制器180通常还用作控制移动终端100的整体操作。控制器180可以通过处理通过在图1A中描述的各种组件输入或者输出的信号、数据、信息等等,或者激活被存储在存储器170中的应用程序来提供或者处理适合于用户的信息或者功能。作为一个示例,控制器180根据已经被存储在存储器170中的应用程序的执行控制在图1A-1C中图示的一些组件或者所有组件。
电源单元190能够被配置成接收外部电力或者提供内部电力以便于供应对于操作被包括在移动终端100中的元件和组件所要求的适当的电力。电源单元190可以包括电池,并且电池可以被配置成被嵌入在终端主体中,或者被配置成从终端主体可拆卸。
投影单元155被布置在移动终端100的任意位置中。投影单元155 包括光源元件、图像形成模块、以及透镜。投影单元155被配置成投射图像信息。另外,在这一点上,光源元件发射光,并且图像形成模块使用光形成图像信息(或者屏幕信息)。透镜用于以被扩大的方式投射图像信息并且以对应于投射孔的方式配置。另外,投影单元155 被称为放映机、投影仪、或者光束投影仪。
图2是图示根据另一示例性实施例的手表式移动终端100的一个示例的透视图。
如在图2中所图示,手表式移动终端100包括具有显示单元151 的主体301和连接到主体301以可佩戴在手腕上的带302。通常,移动终端100可以被配置成包括与图1A-1C的移动终端100相同或者相似的特征。
主体301可以包括具有某些外观的壳体。如所图示的,壳体可以包括协作地限定用于容纳各种电子组件的内部空间的第一壳体301a和第二壳体301b。其它的配置是可能的。例如,可以替换地实现单个壳体,这样的壳体被配置成限定内部空间,从而实现具有单体的移动终端100。
手表式移动终端100能够执行无线通信,并且用于无线通信的天线能够被安装在主体301中。天线可以使用壳体延伸其功能。例如,包括导电材料的壳体可以被电气地连接到天线以延伸接地面积或者辐射面积。
示出显示单元151位于主体301的前侧处使得被显示的信息对于用户来说是可视的。在一些实施例中,显示单元151包括触摸传感器使得显示单元能够用作触摸屏。如所图示的,窗口151a被定位在第一壳体301a上以与第一壳体301a一起形成终端主体的前表面。
被图示的实施例包括被定位在主体301上的音频输出模块152、相机121、麦克风122、以及用户输入单元123。当显示单元151被实现为触摸屏时,附加的功能键可以被最小化或者被消除。例如,当触摸屏被实现时,用户输入单元323可以被省略。另外,投射单元(未被图示)可以进一步被包括在主体301中。尽管未被图示,但是投射单元包括光源元件、图像形成模块以及透镜。在这一点上,光源元件发射光,并且图像形成模块使用光形成图像信息(或者屏幕信息)。透镜是用于以被扩大的方式投射图像信息并且以对应于投射孔的方式布置。投射单元(未被图示)被称为放映机、投影仪、或者光束投影仪。投射单元被布置在移动终端主体301的横向侧面上,但是不限于该侧面并且可以被布置在主体301的任意部分中。
带302通常被佩戴在用户的手腕上并且可以是由柔性材料制成而有助于设备的佩戴。作为一个示例,带302可以是由皮毛、橡胶、硅、合成树脂等等制成。带302也可以被配置成从主体301可拆卸。因此,根据用户的偏好,带302可以以各种类型的带可替换。
在一个配置中,带302可以被用于延伸天线的性能。例如,带可以在其中包括被电气地连接到天线以延伸接地面积的接地延伸部分 (未被示出)。
带302可以包括紧固件302a。紧固件302a可以被实现为扣型、搭扣钩结构、型等等,并且包括柔性段或者材料。附图图示使用扣实现紧固件302a的示例。
根据本公开的实施例的移动终端100,能够被佩戴在特定主体部分上并且被配置成包括在上面描述的组成元件当中的至少一个,例如,手表式移动终端200通过感测单元140检测关于主体301的佩戴者的移动信息和佩戴者的生物信号。
在这一点上,关于佩戴者的移动信息意指使用佩戴者的手指、手腕、肩部、头部、腿部、或者腰部执行的手势。通过分析利用被包括在感测单元140中的运动传感器、地磁传感器、加速度传感器以及陀螺仪传感器,并且利用相机121捕获的图像信息获得关于佩戴者的移动信息。
另外,在这一点上,生物信号意指在移动终端100的佩戴者的身体中产生的电信号。例如,生物信号可以是心电图(ECG)信号、光电容积脉搏波信号、以及皮电反应信号,但是不限于这些并且可以包括在现有技术中在睡眠期间广泛用于测量的各种类型的信号。
更加具体地,佩戴者的身体的主要电气测量包括脑电图、心电图、肌电图、眼球导电性、以及皮肤电反应。主要物理测量包括血压、心率、节律异常、安抚商数、动作错误、体温、以及呼吸频率。感测单元140检测在主要电气测量和主要物理测量当中的至少一个或者多个。
心电图(ECG)信号是在其中心脏的电活动出现的皮肤的表面上产生的电信号。通过将根据心搏在心肌中出现的活跃的电流感应到身体的表面上的两个适当的区域来测量ECG信号。
肌电图(EMG)信号是在其中肌肉收缩、肌肉活动、以及肌肉疲劳度出现的皮肤的表面上产生的电信号。根据由佩戴手表型移动终端 300感测到的佩戴者的手指的移动EMG检测肌肉移动。具体地,在移动终端的佩戴者的手腕内的腕隧道具有控制手指的移动的肌肉的手指屈肌腱。手指屈肌腱就有9个腱和一个神经,并且如果手指移动,则被包括在手指屈肌腱中的9个腱被不同地组合以移动。移动终端的感测单元140检测根据手指的移动或者手腕的移动改变的腱的形状,并且控制器180基于感测到的信息,确定通过手指执行什么手势。
脑电图(EEG)信号是在其中响应于外部刺激的集中或者脑部活动出现的皮肤的表面上产生的电信号。通过将在人类大脑中出现的电势中的变化感应到头皮,或者从变化产生的脑电流来测量EEG信号。
皮电反射(GSR)信号是在其中皮肤对交感神经的活动的抵抗力的变化出现的皮肤的表面上产生的电信号。通过测量其中由于外部刺激在活体的皮肤上出现的电阻或者情绪激动被暂时减少或者活动的电势出现的现象获得GPS信号。
当感测单元140检测手表式移动终端300的佩戴时,允许控制器 180激活记录模式或者控制模式的控制命令被输入到用户输入单元 123。
在这一点上,通过机械输入单元或者触摸输入单元输入如上所述的控制命令。然而,在没有这些的情况下,通过感测单元140感测到的各条信息被接收并且被视为从用户输入。
当激活记录模式时,控制器180记录关于主体301的佩戴者的移动信息并且存储在特定情形下出现的运动模式。例如,移动终端100 的控制器180记录关于佩戴者的运动信息和在佩戴者执行打开他的/她的汽车的后备箱的操作时的情形下出现的佩戴者的生物信号。
另一方面,当控制模式被激活时,控制器180感测关于佩戴者的运动信息和佩戴者的生物信号。然后,对应于感测到的运动信息和生物信号并且在特定的情形下被存储的运动模式被检测,控制器180将与检测到的运动信息相对应的控制命令提供给被连接的外部设备。
另一方面,当关于佩戴者的运动信息和佩戴者的生物信号不同于先前记录的那些并且从而在特定的情形下出现的运动模式被改变时,在记录模式下,控制器180通过被改变的运动模式来更新先前的运动模式。即,如果在特定的情形下执行的用户的习惯性手势被改变,则自动地执行对被改变的手势的更新,并且从而通过被改变的手势能够控制外部设备的操作。
如上所述,根据本公开的实施例的移动终端100能够在没有直接接触外部设备的情况下和在没有执行在移动终端100上的特定输入的情况下仅通过佩戴者的习惯性手势控制外部设备的操作。这给用户提供便利。
下面参考图3详细地描述根据本公开的实施例的控制移动终端的方法。
首先,根据本公开的实施例的移动终端100以其能够被佩戴在特定身体部位上的这样的方式被配置,并且例如,被实现为在图2中图示的手表式移动终端100。在下面通过手表式移动终端作为其示例描述根据本公开的示例性实施例的移动终端100。
首先,移动终端100的感测单元140执行感测主体的佩戴的步骤(S310)。
具体地,感测单元140感测移动终端100的主体310的倾斜和运动并且从而感测是否主体被佩戴。当主体301的倾斜中的变化和主体 301被移动的加速与当主体301佩戴在身体上被移动时产生的模式相同或者相似时,控制器180确定主体301被佩戴在用户的身体的一部分上。为了这样做,感测单元140可以进一步包括能够感测相对于X轴、 Y轴、以及Z轴的空间移动的陀螺仪传感器(未被图示)。
另外,基于通过相机121捕获到的图像信息,感测单元140识别用户的位置和移动终端100的主体301的佩戴状态。因此,能够确定是否主体被佩戴在用户的身体的一部分上或者被拆卸或者移动远离用户。
另外,根据被包括在主体301的带302中的紧固件302a如何被连接到带302,感测单元140感测是否移动终端100被佩戴在身体上。即,当确定紧固件302被连接到带302的一端时,主体301被视为正在被佩戴在身体上。
另外,当在佩戴主体之后,用户在特定的键上推动或者输入预定的语音命令时,感测单元140感测主体的佩戴。
另一方面,感测单元140感测主体的佩戴并且同时或者其后,感测主体301的佩戴者的生物信号,例如,用户自己的心率。然后,感测单元140将感测到的生物信号传输到执行用户认证的控制器180。即,根据主体301的佩戴,以自然的方式执行用户认证。另一方面,当由于用户认证,主体301的佩戴者与已经存储的用户信息不相匹配时,移动终端100保持其中到移动终端100的控制命令的输入被限制的锁定状态,并且输出与用户认证的失败相对应的信息。
当以这样的方式感测主体301的佩戴时,控制器180执行记录模式或者记录模式。
为了这样做,当感测到主体301的佩戴时,移动终端100执行感测通过用户输入单元123的用于激活记录模式或者控制模式的控制命令的输入的步骤(S320)。
当通过用户输入单元123输入特定的第一输入信号并且然后感测到关于主体的佩戴者的运动信息和佩戴者的生物信号时,控制器180 识别用于在与第一输入信号相对应的特定情形下激活记录模式的控制命令。
在这一点上,第一输入信号是在特定情形下进入记录模式的语音命令、特定键操作、以及特定手势当中的一个。另外,第一输入信号意指根据在主体301的佩戴者和特定外部设备之间的接触的感测信号。例如,参考图4B,移动终端100感测当佩戴者的手接触门把手时出现的生物信号,并且基于这时感测到的生物信号,识别用于在“打开门的情形”下激活记录模式的第一输入信号被输入。
另外,关于佩戴者的运动信息意指使用佩戴者的手指、手腕、肩部、头部、腿部、以及腰部执行的手势。通过分析通过被包括在感测单元140中的运动传感器、地磁传感器、加速度传感器以及陀螺仪传感器,并且通过相机121捕获到的图像信息获得关于佩戴者的运动信息。
另外,在这一点上,佩戴者的生物信号意指在佩戴者的身体中产生的电信号。例如,生物信号包括心电图(ECG)信号、光电容积脉搏波(PPG)信号、皮电反应(GSR)信号以及肌电图(EMG)信号。
另外,控制器180基于在上面描述的第一输入信号、通过被布置在主体301中的相机121获得的一条环境图像信息、以及关于通过无线通信单元110接收到的关于主体301的一条位置信息当中的至少一条信息识别特定情形。例如,当接收到与通过麦克风122输入的语音“跑步”的第一输入信号时,控制器180识别特定情形是“跑步”。
另一方面,当感测单元140通过用户输入单元123直接地感测关于主体301的佩戴者的运动信息和佩戴者的生物信号时,控制器180 将此视为用于激活控制模式的控制命令的输入。另外,当感测单元140 感测超过参考值(正常运动的值)的关于佩戴者的运动信息和佩戴者的生物信号时,控制器180生成用于激活控制模式的控制命令并且将被生成的控制命令提供给用户输入单元123。
随后,记录模式被激活,控制器180记录在特定的情形下关于主体301的佩戴者的运动信息和佩戴者的生物信号,并且存储在特定情形下出现的佩戴者的运动模式(S330)。
当以这样的方式激活记录模式时,感测单元140感测关于佩戴者的运动信息和佩戴者的生物信号。
例如,感测单元140通过肌电图(EMG)感测根据佩戴者的手指的移动、腱的形状、握力的变化、以及手指的移动速度改变的肌肉。肌电图(EMG)传感器感测肌肉的电活动,更具体地,感测肌肉内的电变化,从而掌握对神经刺激的响应。因为肌肉在神经系统的控制下并且极小数量的电流始终在肌肉中流动,所以如果通过针或者电极检查电流的数量并且通过肌电图进行记录,则包括末梢神经的肌肉的活动能够被掌握。
另外,感测单元140将感测被改变的肌肉、腱的形状、握力的变化、以及手指的移动速度的结果传输到控制器180。控制器180掌握运动特性。
运动特性是关于手指(或者手势)的形状、手指的移动速度、手腕移动的方向、手腕的移动速度、以及握力的变化当中的至少一个。另外,运动特性随着手指运动或者手腕运动而不同地改变。例如,当五个手指被展开时产生的运动特性不同于当五个手指被合拢时产生的运动特性。这是因为腱的运动和形状不同于手指的运动。
与此相关联,图5是均图示通过佩戴者的五个手指执行并且将不同的生物信号提供给移动终端100的手势的示例的图。如在图5中所图示,除了当佩戴者的手指被展开并且手指被合拢时,当特定的手指被展开并且特定的手指被合拢时、当多个手指相互接触时、或者当特定的手指指向特定方向时不同的电信号出现。而且,通过肌电图(EMG) 传感器感测当主体301的佩戴者将他的/她的力量扔进他的/他的手指时产生的电波形,并且从而在图5中图示的五个手指被视为相互不同。
另外,例如,通过心电图(ECG)传感器和/或肌电图(EEG)传感器,感测单元140掌握是否佩戴者是处于睡眠状态下、唤醒状态下、在NRdEM(xoNon-REM)状态下、或者在适合唤醒的REM睡眠状态下。然后,如果作为感测的结果,唤醒的状态变成睡眠状态或者睡眠状态变成唤醒状态,则第一输入信号被确定为被输入并且从而在上面描述的记录模式被激活。
另一方面,当控制模式被激活时,控制器180感测关于佩戴者的运动信息和佩戴者的生物信号,并且当检测到对应于感测到的运动信息和生物信号的特定情形下的已经存储的运动模式时,执行将与检测到的运动模式相对应的控制命令提供给外部设备的步骤(S340)。
另外,在控制模式下,当检测到对应于感测到的运动信息和生物信号的特定情形下的已经存储的运动模式时,控制器180根据对应于检测到的运动模式的控制命令远程地控制被连接的外部设备的操作。在移动终端100中接收回遥控的结果。
为了这样做,移动终端100的无线通信单元110被连接到外部设备并且使用诸如无线LAN(WLAN)、蓝牙、超宽带(UWB)、红外数据协会(IrDA)、家用电话线网络联盟(HPNA)、共享无线接入协议(SWAP)、以及IEEE 1394的无线通信技术发送与检测到的运动模式相对应的控制命令。
另一方面,在控制模式下,当没有检测到对应于感测到的运动信息和生物信号的特定情形下的已经存储的运动模式时,控制器180通过记录模式的进入输出指导用户的消息。
不存在对能够被连接到移动终端100的外部设备的类型的限制。即,无论什么装置根据通过外部设备的无线通信单元110接收到的控制命令执行特定功能可以是这样的外部设备。例如,外部设备不仅包括诸如冰箱、智能TV、PC、洗衣机、照明设备、以及微波炉的家用电器,而且包括被配置成从诸如车辆、前门、和入口门、以及主入口的移动终端100接收控制信号的装置。
另外,在记录模式或者控制模式下,移动终端100将与特定情形相对应的屏幕信息输出到显示单元151。例如,如果在记录模式下记录与“高尔夫运动”相对应的运动信息和生物信号,则控制器180将与“高尔夫运动”相关联的图像输出到显示单元151同时执行记录。
图4A至图4E是图示在上面描述的图3中的步骤中的特定示例的图。
首先,当如在图4A中所图示感测到手表式移动终端100被佩戴在用户的手腕上时,移动终端100记录关于佩戴者的运动信息和佩戴者的生物信号同时如在图4B中所图示的主体301的佩戴者执行旋转门把手200以打开门的手势(记录模式)。然后,移动终端100存储在“旋转门把手200以打开门的情况”下的与关于佩戴者的运动信息和佩戴者的生物信号相对应的佩戴者的运动模式。当以这样的方式存储与特定情形相对应的运动模式时,即使第三方佩戴移动终端100并且然后在相同的运动模式下执行运动,不存在对于安全性的单独认证的需求,因为感测到的生物信号的值是不同的。另一方面,当以这样的方式激活记录模式时,如在图4C中所图示,指示关于佩戴者的运动信息和佩戴者的生物信号的记录的图形对象在进行中,例如,文本“记录在进行中”、和指示记录在进行中的点图像“...”被输出到显示单元151。
以这样的方式存储与“旋转门把手以打开门的情形”相对应的佩戴者的运动模式,当如在图4D中所示执行对应于特定情形的旋转门把手200以打开门的已经存储的手势403时,移动终端100执行比较以确定是否手势403与已经存储的运动模式相匹配。当作为比较的结果,手势403与对应于在图4B中存储的“旋转门把手以打开门的情形”的运动模式相匹配时,无线连接的门把手200被旋转以打开门,如在图 4E中所示,并且指示外部设备的控制在进行中的图形对象,例如,文本“控制在进行中”和指示控制在进行中的点图像“...”被输出到移动终端100的显示单元151。
另一方面,尽管未被图示,当移动终端100的佩戴者执行实际旋转门把手200以打开门的手势时,继图4E中图示的运动之后,执行对最新记录的运动信息和生物信号的更新。因此,即使当佩戴者的习惯性手势被改变时,在不需要存储新的运动模式的情况下通过被改变的习惯性手势控制外部设备。
如上所述,根据本公开的实施例,在特定情形下记录的佩戴者的生物信号的模式和佩戴者的运动被存储,并且当其后感测到与被存储的模式相同的运动和生物信号时,与特定情形相关联的外部设备能够进行控制。因此,即使在佩戴者在直接地控制外部设备或者在执行在被佩戴的移动终端上的输入中具有困难的情况下,仅通过被记录的习惯性手势能够控制外部设备。
下面参考图6A至图6D 和图8A至图8E描述在记录模式或者控制模式下显示与佩戴者的手势相关联的屏幕信息的方法。
首先,移动终端100的感测单元140感测主体的佩戴。当感测到主体的佩戴时,移动终端100输出与主体的佩戴相对应的信号或者信息。另外,基于根据主体301的佩戴感测到的佩戴者的生物信号,以自然的方式对佩戴者执行用户认证。
在以这样的方式感测主体301的佩戴之后,控制器180激活记录模式和控制模式中的任意一个。为了这样做,当通过用户输入单元123 在特定情形下输入第一输入信号并且然后感测到关于主体的佩戴者的运动信息和佩戴者的生物信号时,控制器180识别用于激活记录模式的控制命令被输入。另外,当通过用户输入单元123直接地感测到关于主体301的佩戴者的运动信息和佩戴者的生物信号时,控制器180 将其视为用于激活控制模式的控制命令的输入。
当以这样的方式,移动终端被佩戴并且然后通过用户输入单元123 感测与记录模式或者控制模式的激活相对应的控制命令的输入时,与特定情形相对应的屏幕信息被输出到移动终端100的显示单元151同时激活模式被激活或者同时控制模式被激活。
例如,当移动终端100的佩戴者将语音“高尔夫”输入到移动终端100时,如在图6A中所示,移动终端100激活用于被定义为特定情形的“高尔夫”的记录模式,并且当记录模式被激活时,将与高尔夫运动相关联的已经存储的内容,例如,如在图6B中所图示的高尔夫挥动手势的图像(或者运动图像)601输出到显示单元151。另一方面,尽管未被图示,基于通过被设置在主体301中的相机121和/或感测单元140感测到的肌肉、腱的形状、以及握力的变化,移动终端100能够将“高尔夫”视为特定情形。
另外,在记录模式或者控制模式下,控制器180识别与关于佩戴者的运动信息和佩戴者的生物信号相对应的手势,对与被识别的手势相关联的至少一个图像进行网络搜索并且将搜寻到的图像提供给显示单元151。另外,控制器180通过无线通信单元110将搜寻到的图像传输到外部设备。
在这一点上,当与佩戴者的运动信息相对应的手势和佩戴者的生物信号被改变时,控制器180对与被改变的手势相对应的图像再次进行网络搜索并且将搜寻到的图像提供给显示单元151。例如,如果在用于是特定情形的“高尔夫”的记录模式下将佩戴者的手势从第一手势变成第二手势,则基于通过感测单元140感测到的生物信号(包括与此姿势变化相关联的元数据),控制器180识别该手势变化并且能够对与第二手势相关联的图像进行网络搜索。
例如,如在图6C中所图示,根据记录模式或者控制模式的激活,运动信息的变化值和生物信号被记录同时主体301的佩戴者在被定义为特定情形的“高尔夫”中执行挥动手势。另外,如在图6D中所示,移动终端100对于适合于改变的佩戴者的手势的图像进行网络搜索同时激活记录模式或者控制模式并且将搜寻到的图像输出给显示单元 151(a)或者将其提供给外部设备200(b)。
另外,在记录模式或者控制模式中,控制器180将包括指示记录模式或者控制模式的激活的第一图形对象和指示改变关于佩戴者的运动信息和佩戴者的生物信号的程度的第二对象的屏幕信息输出到显示单元151。
另外,在记录模式或者控制模式下,控制器180可以进一步包括指示与记录模式或者控制模式的激活相对应的时间信息的第三图形对象和指示关于佩戴者的运动和佩戴者的生物信号与已经存储的运动模式相匹配的程度的第四图形对象。在这一点上,如上所述的已经存储的运动模式,可以是在记录模式下记录的关于佩戴者的运动信息和佩戴者的生物信号或者可以是通过用户输入单元设置的正确姿势信息或者目标值。
例如,再次参考图6D,指示佩戴者的运动速度、佩戴者的紧握力度、扔到他的/她的手指的佩戴者的力度的变化的程度、以及通过移动终端100的感测单元140感测到的时间信息的指示器图标601a和602a 进一步被显示在被输出到显示单元151的屏幕信息或者外部设备200 的屏幕。
以这样的方式,在记录模式、控制模式、以及正常模式下,不同的屏幕信息被显示在根据本公开的实施例的移动终端100的显示单元 151上。
具体地,在正常模式下,移动终端100通过感测单元140仅感测关于主体301的佩戴者的基本状态信息。例如,移动终端100感测是否佩戴者是处于睡眠状态下或者处于唤醒状态下并且是否被扔入在其上佩戴主体301的主体部分中的佩戴者的力度被改变。结果,如在图 8A中所示,在正常模式下,根据手表式移动终端100的特性,指示生物信号的感测在进行中的图像与指示时间的信息一起被输出到移动终端100的显示单元180的中心。
另外,在记录模式下,移动终端100激活在特定的情形下感测到的所有的运动信息和所有的生物信号。例如,移动终端100根据在被扔入他的/她的手指的佩戴者的力度,或者姿势变化,通过感测单元140 感测佩戴者的运动速度、佩戴者的紧握力度、手势。
结果,如在图8B中所图示,指示记录模式的激活在进行中的第一图像802a、指示与记录模式相关联的特定条件的第二图像(例如,哑铃的图像)803a、以及指示对应于记录模式的激活的时间信息或者运动量(例如,运动速度、紧握力度、或者力度变化的程度)的第三图像804b被输出到显示单元151的一个区域。在这一点上,以在视觉上相互区分在运动的数量上相同的分段的方式显示第三图像804b。即,通过佩戴者的移动将第三图像804b划分成第一分段804b_1、第二分度 804b_2、以及第三分段804b_3,并且以其与运动继续的时间成比例的方式显示每个分段的长度。
另外,如在图8D中所图示,在记录模式下,指示记录模式在进行中的第一图像805a、与当记录模式被激活时识别的佩戴者的手势相对应的网络搜索图像(例如,跑步的人的图像)806a、以及指示关于佩戴者的运动信息和佩戴者的生物信号与已经存储的运动模式相匹配的程度的第三图像807b被输出到显示单元151的一个区域。在这一点上,已经存储的运动模式是预定的目标值或者被推荐的姿势信息。因此,以在视觉上相互区分在感测到的运动信息和生物信号与已经存储的运动模式相匹配的程度中相同的分段的方式显示第三图像807b。例如,感测到的运动信息和生物信号与已经存储的运动模式相匹配的程度越大,第三图像807b的被显示的分段807b_1、807b_2、以及807b_3的颜色越深。
另外,在控制模式下,移动终端100在对应于通过感测单元140 感测到的关于佩戴者的运动信息和佩戴者的生物信号的情形下生成与已经存储的运动模式相对应的控制命令。被生成的控制命令控制移动终端100的特定功能的执行和/或控制被连接的外部设备的操作。
结果,如在图8B和图8E中所图示,以文本图像803d的方式,与对应于关于感测到的佩戴者的运动信息和佩戴者的生物信号的特定情形的图像被显示被显示在显示单元151的一个区域中,或者以指示通过控制命令控制的功能或者装置的动态图像805c的形式被显示在显示单元151的一个区域。另外,在控制模式下,除了此之外,指示控制模式的激活进行中的图像802c、和指示控制模式的激活持续的时间的图像804d进一步被显示在显示单元151上。
如上所述,根据本公开的实施例,在记录模式和控制模式下,与佩戴移动终端100的佩戴者的运动信息和佩戴者的生物信号相关联的信息被显示在显示单元151上,并且从而尽管仅通过习惯性手势控制特定功能,佩戴者能够以简单的方式对此进行识别。
参考图7A至图7D下面描述感测佩戴者的运动模式并且从而控制被连接到移动终端的外部设备的方法。
当根据主体301的佩戴对佩戴者执行用户认证时,通过无线通信单元110,控制器180感测移动终端100被连接到外部设备。当感测到连接到外部设备时,控制器180生成与被连接的外部设备相关联的用于激活记录模式或者控制模式的控制命令并且将被生成的控制命令提供给用户输入单元123。在这一点上,基于被连接的外部设备的当前操作状态确定记录模式或者控制模式的选择。例如,当外部设备的当前操作状态是其中从移动终端100接收特定信息的设置模式时,移动终端100以记录模式被激活的这样的方式进行确定。
当与被连接的外部设备相关联的记录模式被激活时,关于佩戴者的运动信息和佩戴者的生物信号被激活。在这一点上,根据移动终端或者被连接的外部设备的设置,将关于佩戴者的被记录的运动信息和被记录的生物信号在每个预定的时间或者实时提供给被连接的外部设备。
当与被连接的外部设备的控制模式被激活时,检测到对应于关于佩戴者的运动信息和佩戴者的生物信号的特定情形下的已经存储的运动模式,并且生成相对应的控制命令。移动终端100将被生成的控制命令传输到被连接的外部设备并且控制电子设备的特定操作。
另一方面,如果多个外部设备被连接到主体301,则基于关于被连接的外部设备被使用的时间的信息和关于周围声音的信息,控制器 180能够选择适合于激活控制模式的一个外部设备。
例如,如果如在图7A中所图示的手表型移动终端100被无线地连接到多个外部设备,例如,冰箱200a、智能TV 200b、门200c、以及清洁器,则基于当前时间信息和从智能TV200b传输的音量的级别,如在图7B中所示的移动终端100选择智能TV 100b作为适合于激活控制模式的外部设备。当在选择外部设备之后,如在图7C中所图示,佩戴者执行与已经存储的“TV切断电源”运动模式相同的手势702(例如,其中食指被弯曲并且其它的手指朝着手掌被卷缩)的手势),如在图7D中所图示,智能TV 200b被切断电源(200b”),并且智能TV 200b的操作状态和缩略图图像作为动态图像703被显示在移动终端 100的显示单元151上。
另外,尽管未被图示,如果多个外部设备连接到主体301,则多个被连接的外部设备中的每一个的缩略图图像被显示在显示单元151 上,并且关于与从多个缩略图图像中选择的一个相对应的外部设备能够激活控制模式。
图9A至图9F是用于描述根据本发明的实施例的识别佩戴者的运动模式的重复并且显示与此相关联的信息的方法的图。
在记录模式中,控制器180识别在特定情形下出现的运动模式的重复。即,控制器180按照时间顺序记录和记录最初产生的佩戴者的运动模式和在相同的情形下随后产生的佩戴者的运动模式。
当在特定情形下出现的运动模式的重复被识别时,控制器180进一步存储关于被重复的运动模式的平均信息和积累信息。
然后,在记录模式或者控制模式下,控制器180向显示单元151 的一个区域显示与关于佩戴者的重复的运动模式的平均信息和积累信息相关联的附加信息。
另外,当在特定情形下感测第二输入信号时,控制器180将与在记录模式下重复地存储的关于佩戴者的运动信息和佩戴者的生物信号相对应的信息提供给被连接的外部设备。在这一点上,第二输入信号是预定的语音命令、手势、键操作、或者在每个预定的时间(例如,9: 00A.M)自动地生成的传输信号。
例如,如果在图9A中所图示,佩戴者执行当佩戴移动终端100 时实际地举起哑铃的手势901,则移动终端100感测关于佩戴者的运动信息和佩戴者的生物信号并且识别是否与举起哑铃的手势相同的手势被重复。虽然举起哑铃的手势被执行,如在图9B中所图示,但是诸如与被识别的手势901相对应的图像902a、关于被使用的腱或者肌肉的位置信息902b、以及关于当前训练量对目标训练量的信息902c的附加信息被显示在移动终端100的显示单元151上。
随后,如果主体301的佩戴者在没有如在图9C中图示的哑铃的情况下执行手势901,则基于关于佩戴者的重复运动模式的累积信息和平均信息,关于在预定的时间段(例如,一天)内完成的目标值的信息 903a和关于在预定的时间段内针对目标值完成的训练量的信息903b被显示在如在图9D中所图示的显示单元151上。另外,尽管未被图示,基于在预定的时间段内重复和积累的运动模式,移动终端100自动地改变预定的目标值。
另外,基于关于训练量对目标值的信息,移动终端100将与正确的饮食和如何进行锻炼相关联的信息提供给用户。另一方面,如果显示单元151的尺寸像手表式移动终端100一样小,则这样的信息难以提供。为了解决这样的问题,根据本公开的实施例的移动终端100,如在图9E和图9F中所图示,包括在主体301的一个区域中,例如,在其横向表面上使用光投射图像信息的投射单元911。因此,当佩戴者在预定的方向中(例如,在手腕的方向(图9E)中)执行在显示单元151 上的拖动触摸输入时,移动终端100将与正确的饮食、如何进行锻炼等等相关联的附加信息提供给如在图9F中图示的手的背面的一部分。
另一方面,图10A和图10D图示根据本公开的实施例的使用与关于佩戴者的运动信息和佩戴者的生物信号的变化相对应的位置信息控制外部设备的方法。
为了这样做,根据本公开的实施例的手表式移动终端100包括无线通信单元110,该无线通信单元110用于接收关于主体301的位置信息。然后,当控制模式被激活时,控制器180接收与在特定的情形下关于佩戴者的运动信息和佩戴者的生物信号中的变化相对应的位置信息并且将接收到的位置信息提供给被连接的外部设备。例如,移动终端100感测对应于第一手势的佩戴者的关于佩戴者的运动信息和生物信号并且从而识别开始接收位置信息。另外,移动终端100可以接收根据佩戴者的运动改变的位置信息并且同时,可以驱动被设置在主体 301中的相机122以便于掌握精确的位置信息。另外,移动终端100感测对应于第二手势的关于佩戴者的运动信息和佩戴者的生物信号并且从而识别位置信息的接收被完成。当与关于佩戴者的运动信息和佩戴者的生物信号相对应的位置信息被提供给外部设备时,外部设备在执行其操作中利用接收到的位置信息。
例如,当手表式移动终端100和外部设备,例如,机器人清洁器 200,如在图10A中所图示被相互无线地连接时,佩戴者能够使用移动终端100设置机器人清洁器200不得不清除的特定区域。即,如在图10B中所图示,当佩戴者执行与机器人清洁器200不得不清理的清洁目标区域上的被指定的起始点相对应的手势(其中手指朝着手腕被卷缩或者被展开的手势)时,然后沿着清洁目标区域的边界1001移动,并且然后执行与清洁目标区域上的被指定的结束点相对应的手势(其中手指被展开并且朝着手掌被卷缩的手势),通过佩戴者移动沿着的边界定义要清理的区域1010。然后,清洁器200通过如在图10C中所图示的移动终端100执行对要清理的区域1010执行清洁操作,清洁器200 的缩略图图像1020a和指示清洁操作被执行的图像200b被显示在如在图10D中所图示的移动终端100的显示单元151上。
在这一点上,与佩戴者的运动相对应的位置信息连同时间信息一起被传输到清洁器200,并且从而移动终端能够将被关联的信息传输到清洁器200,以便于让清洁器200在超过参考时间内更加明净地清理佩戴者保持的地方。
图11A至图11D是用于描述根据本公开的实施例的向移动终端显示与通过被连接的外部设备提供的反馈信号相关联的屏幕信息的方法的图。
当主体301的佩戴被感测并且然后用于激活控制模式的佩戴者的手势被识别时,控制器180将与被识别的手势相关联的控制命令传输到被连接到外部设备。在这一点上,因为佩戴者的手势对应于在特定情形下出现的佩戴者的习惯性手势,通常,当佩戴者错误地执行习惯性动作时在外部设备中可能出现故障。为了解决这样的问题,当佩戴者的习惯性手势出现时,根据本公开的实施例的移动终端100可以附加地执行将反馈信号发送到被关联的外部设备并且从被关联的外部设备接收反馈信号的处理。
具体地,当接收到响应从被连接到外部设备接收对应于运动模式的控制命令的第一信号时,控制器180将与第一信号相对应的第一屏幕信息输出到显示单元151。
然后,当根据用于检查第一信息的信号的输入从被连接的外部设备接收与执行控制命令的结果相对应的第二信号时,控制器180将与第二信号相对应的第二屏幕信息输出到显示单元151。在这一点上,用于检查第一屏幕信息的信号的输入是在预定的语音命令、手势、或者被施加到显示单元151或者特定键的触摸输入当中的一个。
例如,参考图11A,当移动终端100执行特定手势,例如,连接拇指和中指并且在相对的方向中将力量投放到它们中的手势1101时,移动终端100感测关于佩戴者的运动信息和佩戴者的生物信号并且在没有驱动相机122的情况下识别手势1101。例如,当相对应的手势1101 是与“报警功能”相对应的习惯性手势时,移动终端生成用于以“报警功能”被接通的方式执行控制的控制命令,并且将控制命令传输到被连接的外部设备200。在执行“报警功能”之前,接收被生成的控制命令的外部设备200,如在图11B中所图示,输出询问是否设置报警功能的消息1102_A,并且在移动终端100中接收到与相对应的消息 1102_A相对应的信号(在上面描述的“第一信号”)。然后,指示是否“报警功能”被设置的图像1102_B被显示在移动终端100的显示单元151上。当佩戴者执行在如图11C中所图示的被显示的图像1102_B 上的触摸输入时,移动终端100将其视为输入检查被显示的图像 1102_B的信号并且将该信号提供给被连接的外部设备200(1103_B)。然后,在如在图11D中所图示的被连接的外部设备200中“报警功能”被设置,并且消息1104A“报警被设置”被输出到屏幕。然后,在被连接的外部设备200中的“报警功能”的设置被完成,指示“报警功能被设置”的图像1104_B被显示在移动终端100的显示单元151上。
根据上述实施例,移动终端的佩戴者仅通过习惯性手势控制移动终端或者被连接的外部设备的特定功能。下面描述当佩戴者甚至不能够执行习惯性手势时执行外部设备的特定功能的方法。
与此相关联,图12A至图12C是图示根据本公开的实施例的基于关于佩戴者的状态信息以不同的方式控制外部设备的方法的图。
当根据本公开的实施例的移动终端100和外部设备被相互连接时,控制器180将对应于佩戴者的生物信号的关于佩戴者的状态信息提供给被连接的外部设备。佩戴者的状态可以通过移动终端100来确定并且可以通过如原样接收佩戴者的生物信号的外部设备来确定。
当确定佩戴者的状态是其中不能够输入用于执行特定功能的运动信息的状态时,控制器180以外部设备根据以不同的输入方式输入的控制命令操作的方式执行控制。在这一点上,其中控制命令被输入的不同输入方式包括通过相机133能够识别的不同手势(例如,脚姿态) 和语音命令。在另一示例中,仅通过对外部设备的前进接近来生成用于执行特定功能的控制命令。
例如,如在图12A中所图示,假定移动终端100的佩戴者想要打开被无线地连接到移动终端100的车辆的后备箱,但是不能够执行习惯性手势,因为他/她用他的/她的手携带东西50。然后,如在图12B 中所图示,移动终端100感测佩戴者的生物信号并且从而识别其中佩戴者携带东西的情形。然后,移动终端100将消息“佩戴者不能够执行手势”输出到显示单元151或者音频输出单元152。在这一点上,佩戴者的此状态也能够识别为在被无线地连接到移动终端100并且接收佩戴者的生物信号的车辆200中。然后,如在图12C中所图示,在没有执行习惯性手势(200”)的情况下移动终端100能够仅通过朝着车辆200的后备箱移动的佩戴者打开车辆200的后备箱。另一方面,警告用户控制操作的“车辆的后备箱被打开”的消息被输出到移动终端 100的显示单元或者音频输出模块152。
另一方面,尽管在附图中未图示或者在上面没有具体地描述,但是根据本公开的实施例的移动终端识别环境亮度强度、环境温度、以及环境湿度,试着建立到被关联的家用电器的连接并且执行被记录的习惯性手势。因此,被连接的家用电器的操作是能够控制的。
另外,移动终端100感测佩戴者的生物信号并且从而确定佩戴者的状态(例如,兴奋状态和睡眠状态)并且因此以更加具体的方式控制与习惯性手势相对应的被连接的家用电器的操作。例如,如果执行用于打开空调的习惯性手势,则移动终端100确定佩戴者的状态并且不仅传输用于打开空调的控制命令,而且传输用于控制空调中的设置温度、风向等等的控制信号。
如上所述,根据本公开的实施例,在特定的情形下感测并且记录关于主体的佩戴者的运动信息和佩戴者的生物信号。其后,当基于被记录的信息和运动的感测和佩戴者的生物信号识别相同情形的发生时,执行相对应的特定功能。因此,移动终端的佩戴者不需要执行复杂的输入,以便于执行特定功能,并且能够以自然的方式仅通过习惯性手势执行特定功能。另外,在特定情形下记录的佩戴者的运动和佩戴者的生物信号的模式被存储,并且当其后感测到与被存储的模式相同的运动和生物信号时,与特定的情形相关联的外部设备能够进行控制。因此,即使在佩戴者在直接地控制外部设备中或者在执行在被佩戴的移动终端上的输入中具有困难的情形下,仅通过被记录的习惯性手势能够控制外部设备。
根据本说明书的用途,如在此具体化和广泛地描述的,提供一种移动终端,包括:主体;感测单元,该感测单元感测主体的佩戴、关于佩戴者的运动信息、以及佩戴者的生物信号;用户输入单元,当感测到主体的佩戴时将用于激活记录模式或者控制模式的控制命令被输入到该用户输入单元;以及控制器,在记录模式下,记录特定情形下关于佩戴者的运动信息和佩戴者的生物信号并且存储在特定情形下出现的运动模式并且,在控制模式下,感测关于佩戴者的运动信息和佩戴者的生物信号并且当检测到对应于被感测的运动信息和生物信号的特定情形下的已经存储的运动模式时,将与检测到的运动模式相对应的控制命令提供给被连接的外部设备。
在移动终端中,当第一输入信号被输入并且然后运动信息和生物信号被感测时,控制器可以生成与第一输入信号相对应的用于在特定情形下激活记录模式的控制命令并且可以将被生成的控制命令提供给用户输入单元,并且当第一输入信号被输入并且然后超过参考值的关于佩戴者的运动信息和佩戴者的生物信号被感测时,控制器可以生成用于激活控制模式的控制命令并且可以将该控制命令提供给用户输入单元。
在移动终端中,第一输入信号可以是对应于在主体的佩戴者和外部设备之间的连接的感测信号。
在移动终端中,可以基于在第一输入信号、通过主体中的相机获得的环境图像信息、以及通过无线通信单元接收到的关于主体的位置信息当中的至少一个识别特定的情形。
在移动终端中,当在主体和外部设备之间的连接被感测时,控制器可以将用于激活与被连接的外部设备相关联的记录模式或者控制模式的控制命令提供给用户输入单元。
在移动终端中,如果多个外部设备被连接到主体,则基于关于被连接的外部设备的时间信息和关于被连接的外部设备的环境声音信息选择用于激活控制模式的特定的外部设备。
移动终端可以进一步包括显示单元,在记录模式下屏幕信息与特定情形相对应,其中屏幕信息可以包括指示记录模式的激活的第一图形对象和指示关于佩戴者的运动信息和佩戴者的生物信号被改变的程度的第二图形对象。
在移动终端中,屏幕信息可以进一步包括指示与记录模式的激活相对应的时间信息的第三图形对象和指示佩戴者的运动信息和佩戴者的生物信号与已经存储的运动模式相匹配的程度的第四图形对象。
在移动终端中,在记录模式下,控制器可以识别在特定情形下出现的运动模式的重复并且可以进一步存储关于被重复的运动模式的累积信息或者关于被重复的运动模式的平均信息。
在移动终端中,在记录模式或者控制模式下,控制器可以以与关于被重复的运动模式的累积信息和关于被重复的运动模式的平均信息相关联的附加信息被进一步显示的方式控制显示单元。
在移动终端中,当在特定情形下感测第二输入信号时,控制器可以将与在记录模式下重复地记录的关于佩戴者的运动信息和佩戴者的生物信号相对应的信息提供给被连接的外部设备。
移动终端可以进一步包括无线通信单元,该无线通信单元接收关于主体的位置信息,其中在控制模式下,控制器可以接收与在特定的情形下关于佩戴者的运动信息和佩戴者的生物信号中的变化相对应的位置信息并且可以将接收到的位置信息提供给被连接的外部设备。
移动终端可以进一步包括显示单元,以在控制模式下指示控制模式的激活的第一图像和与特定情形相对应的第二图像被输出到显示单元的方式配置该显示单元。
在移动终端中,在控制模式下,控制器可以感测到的与运动信息和生物信号相对应的手势,可以对与被识别的手势相关联的至少一个图像进行网络搜索,并且可以将搜索到的图像提供给显示单元。
移动终端可以进一步包括无线通信单元,该无线通信单元将图像信息发送到被连接的外部设备,其中在控制模式下,控制器可以将对应于与被识别的手势相关联的至少一个图像的图像信息传输给被连接的外部设备。
在移动终端中,在控制模式下,当接收到响应对应于运动模式的控制命令的接收的第一信号时,控制器可以将与第一信号相对应的第一屏幕信息输出到显示单元,并且在控制模式下,如果检查第一屏幕信息的信号被输入,当从被连接的外部设备接收到与执行控制命令的结果相对应的第二信号时,控制器可以将与第二信号相对应的第二屏幕信息输出到显示单元。
在移动终端中,在控制模式下,当检测到对应于被感测的运动信息和生物信号的特定情形下的已经存储的运动模式时,控制器可以根据对应于检测到的运动模式的控制命令控制被连接的外部设备的操作,并且在控制模式下,当没有检测到对应于感测到的运动信息和生物信号的特定情形下的已经存储的运动模式时,控制器可以通过记录模式的进入指导用户。
在移动终端中,当到外部设备的连接被建立时,控制器可以将对应于佩戴者的生物信号的关于佩戴者的状态信息提供给外部设备,并且当确定关于佩戴者的状态信息是不能够输入运动信息的状态时,控制器可以以外部设备根据以不同的输入方式输入的控制命令操作的方式执行控制。
根据本说明书的目的,如在此具体化和广泛地描述的,提供一种控制移动终端的方法,该移动终端能够连接到至少一个外部设备,该方法包括:感测主体的佩戴;当感测到主体的佩戴时输入用于激活记录模式或者控制模式的控制命令;当记录模式被激活时,记录特定情形下关于佩戴者的运动信息和佩戴者的生物信号并且存储在特定情形下出现的运动模式;以及当控制模式被激活时感测关于佩戴者的运动信息和佩戴者的生物信号并且当检测到对应于运动信息和生物信号的特定情形下的已经存储的运动模式时控制被连接的外部设备。
该方法可以进一步包括在记录模式或者控制模式下将与特定情形相对应的屏幕信息输出到屏幕。
使用具有用于通过执行其中陈述的各种方法的处理器使用具有用于执行的被存储在其上的指令的机器可读介质可以实现各种实施例。可能的机器可读介质的示例包括在此陈述的HDD(硬盘驱动)、SSD (固态盘)、SDD(硅盘驱动)、ROM、RAM、CD-ROM、磁带、软盘、以及光数据存储装置、其它类型的存储介质,和其组合。如有必要,以载波(例如,互联网上的传输)的形式可以实现机器可读介质。处理器可以包括移动终端的控制器180。
前述实施例和优点仅是示例性的并且不被视为对本公开的限制。本教导能够被容易地应用于其它类型的装置。此描述旨在是说明性的,并且没有限制权利要求的范围。许多替代、变型以及变体对于本领域的技术人员来说将会是显然的。可以以各种方式组合在此描述的示例性实施例的特征、结构、方法以及其它特性以获得其它的和/或替代的示例性实施例。
当在没有脱离本特征的特性的情况下可以以多种形式实现本特征时,也应理解的是,上述实施例不受前面描述的任何细节的限制,除非另有规定,否则应在所附的权利要求中限定的范围内被广泛地解释,并且因此旨在由所附的权利要求涵盖落入权利要求的范围和界限或者该范围和界限的等同物内的所有变化和变型。

Claims (19)

1.一种移动终端,包括:
主体;
感测单元,所述感测单元感测用户是否正在佩戴所述主体、所述用户的运动信息、以及所述用户的生物信号;
用户输入单元,当感测到所述主体正在被所述用户佩戴时所述用户输入单元接收用于激活记录模式或者控制模式的控制命令;以及
控制器,所述控制器被配置成,在所述记录模式和所述控制模式下控制所述移动终端,其中
在所述记录模式下,记录在规定情形下的关于所述用户的运动信息和所述用户的生物信号,并且存储在所述规定情形下出现的运动模式,以及
在所述控制模式下,感测关于所述用户的运动信息和所述用户的生物信号,并且
当感测到的运动信息和感测到的生物信号对应于所存储的用于所述规定情形的运动模式时,将与所存储的运动模式相对应的控制命令提供给被连接的外部设备,
其中,在所述控制模式下,
当检测用于与所述感测到的运动信息和所述生物信号相对应的规定情形的所存储的运动模式时,所述控制器根据与检测到的运动模式相对应的控制命令控制所述被连接的外部设备的操作,并且
当没有检测到用于与所述感测到的运动信息和所述生物信号相对应的规定情形的所存储的运动模式时,所述控制器通过所述记录模式提供指南以引导所述用户。
2.根据权利要求1所述的移动终端,其中,当输入第一输入信号并且然后感测所述运动信息和所述生物信号时,生成与所述第一输入信号相对应的用于在规定情形下激活所述记录模式的控制命令,并且其中,当输入所述第一输入信号并且然后感测超过参考值的关于所述用户的运动信息和所述用户的生物信号时,生成用于激活所述控制模式的控制命令。
3.根据权利要求2所述的移动终端,其中,所述第一输入信号是对应于佩戴所述主体的用户和所述外部设备之间的连接的感测信号。
4.根据权利要求2所述的移动终端,其中,基于所述第一输入信号、通过被设置在所述主体上的相机获得的环境图像信息、或者通过无线通信单元接收到的所述主体的位置信息中的至少一个识别所述规定情形。
5.根据权利要求1所述的移动终端,其中,当感测在所述主体和所述外部设备之间的连接时,将用于激活与所述被连接的外部设备相关联的所述记录模式或者所述控制模式的所述控制命令提供给所述用户输入单元。
6.根据权利要求5所述的移动终端,其中,当多个外部设备被连接到所述主体时,基于与所述被连接的外部设备相关联的时间信息或环境声音信息中的至少一个选择要在所述控制模式下控制的规定外部设备。
7.根据权利要求1所述的移动终端,进一步包括:
显示单元,所述显示单元在所述记录模式下显示与所述规定情形相对应的屏幕信息,
其中,所述屏幕信息包括指示所述记录模式的激活的第一图形对象和指示关于所述用户的运动信息和所述用户的生物信号被改变的程度的第二图形对象。
8.根据权利要求7所述的移动终端,其中,所述屏幕信息进一步包括指示与所述记录模式的激活相对应的时间信息的第三图形对象和指示关于所述用户的运动信息和所述用户的生物信号与所存储的运动模式相匹配的程度的第四图形对象。
9.根据权利要求1所述的移动终端,其中,在所述记录模式下,所述控制器识别在所述规定的情形下出现的所述运动模式的重复并且存储关于所重复的运动模式的累积信息和平均信息。
10.根据权利要求9所述的移动终端,其中,在所述记录模式或者所述控制模式下,所述控制器控制显示单元以显示与关于所重复的运动模式的所述累积信息和平均信息相关联的附加信息。
11.根据权利要求10所述的移动终端,其中,当在所述规定情形下感测第二输入信号时,将与在所述记录模式下重复地记录的关于所述用户的运动信息和所述用户的生物信号相对应的信息提供给所述被连接的外部设备。
12.根据权利要求1所述的移动终端,进一步包括无线通信单元,所述无线通信单元接收所述主体的位置信息,
其中,在所述控制模式下,所述控制器接收与在所述规定情形下关于所述用户的运动信息和所述用户的生物信号中的变化相对应的位置信息并且将接收到的位置信息提供给所述被连接的外部设备。
13.根据权利要求1所述的移动终端,进一步包括显示单元,所述显示单元被配置成在所述控制模式下显示指示所述控制模式的激活的第一图像和与所述规定情形相对应的第二图像。
14.根据权利要求13所述的移动终端,其中,在所述控制模式下,所述控制器识别与感测到的所述运动信息和所述生物信号相对应的手势,对与所识别的手势相关联的至少一个图像执行网络搜索,并且将搜索到的图像提供给所述显示单元。
15.根据权利要求1所述的移动终端,进一步包括:
无线通信单元,所述无线通信单元将图像信息发送到所述被连接的外部设备,
其中,在所述控制模式下,将对应于与所识别的手势相关联的至少一个图像的图像信息通过所述无线通信单元传输给所述被连接的外部设备。
16.根据权利要求1所述的移动终端,其中,在所述控制模式下,
当响应于接收与所述运动模式相对应的控制命令接收第一信号时,所述控制器将与所述第一信号相对应的第一屏幕信息显示在所述显示单元上,并且
当输入被接收以确认所述第一屏幕信息时,如果从所述被连接的外部设备接收与执行对应于所述运动模式的控制命令的结果相对应的第二信号,则所述控制器在所述显示单元上显示与所述第二信号相对应的第二屏幕信息。
17.根据权利要求1所述的移动终端,其中,当到所述外部设备的连接被建立时,将与所述用户的生物信号相对应的关于所述用户的状态信息提供给所述外部设备,并且
当所述状态信息指示用户处于不能够输入所述运动信息的状态时,所述控制器基于以不同输入方式输入的控制命令控制所述外部设备。
18.一种控制移动终端的方法,所述移动终端被配置成连接到至少一个外部设备,所述方法包括:
感测用户是否正在佩戴所述移动终端的主体;
当感测到所述主体正在被所述用户佩戴时输入用于激活记录模式或者控制模式的控制命令;
当所述记录模式被激活时记录在规定情形下的关于所述主体的用户的运动信息和所述用户的生物信号并且存储在规定情形下出现的运动模式;
当所述控制模式被激活时感测关于所述用户的运动信息和所述用户的生物信号;
当所述感测到的运动信息和所述感测到的生物信号对应于所存储的用于所述规定情形的运动模式时,提供与所存储的运动模式相对应的控制命令以控制被连接的外部设备;以及
其中,在所述控制模式下,
当检测用于与所述感测到的运动信息和所述生物信号相对应的规定情形的所存储的运动模式时,根据与检测到的运动模式相对应的控制命令控制所述被连接的外部设备的操作,并且
当没有检测到用于与所述感测到的运动信息和所述生物信号相对应的规定情形的所存储的运动模式时,通过所述记录模式提供指南以引导所述用户。
19.根据权利要求18所述的方法,进一步包括在所述记录模式或者所述控制模式下将与所述规定情形相对应的屏幕信息输出到显示屏幕。
CN201410836903.3A 2014-01-24 2014-12-29 移动终端及其控制方法 Expired - Fee Related CN104808783B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020140009105A KR102135586B1 (ko) 2014-01-24 2014-01-24 이동 단말기 및 이의 제어방법
KR10-2014-0009105 2014-01-24

Publications (2)

Publication Number Publication Date
CN104808783A CN104808783A (zh) 2015-07-29
CN104808783B true CN104808783B (zh) 2019-07-26

Family

ID=51999218

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410836903.3A Expired - Fee Related CN104808783B (zh) 2014-01-24 2014-12-29 移动终端及其控制方法

Country Status (4)

Country Link
US (1) US9467553B2 (zh)
EP (1) EP2899952B1 (zh)
KR (1) KR102135586B1 (zh)
CN (1) CN104808783B (zh)

Families Citing this family (70)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9276031B2 (en) 2013-03-04 2016-03-01 Apple Inc. Photodiode with different electric potential regions for image sensors
US9741754B2 (en) 2013-03-06 2017-08-22 Apple Inc. Charge transfer circuit with storage nodes in image sensors
JP6388643B2 (ja) * 2013-05-08 2018-09-12 フィリップス ライティング ホールディング ビー ヴィ モバイル計算装置のユーザ操作に基づいて照明を制御する方法及び装置
US10285626B1 (en) * 2014-02-14 2019-05-14 Apple Inc. Activity identification using an optical heart rate monitor
US9686485B2 (en) 2014-05-30 2017-06-20 Apple Inc. Pixel binning in an image sensor
KR102288726B1 (ko) 2014-06-09 2021-08-12 삼성전자주식회사 웨어러블 전자 장치, 메인 전자 장치, 시스템 및 그 제어 방법
US9986086B2 (en) * 2014-07-31 2018-05-29 Samsung Electronics Co., Ltd. Mobile terminal and method of operating the same
US9742977B2 (en) 2014-09-02 2017-08-22 Apple Inc. Camera remote control
US9191482B1 (en) * 2015-01-30 2015-11-17 David Sidbury Watch, mobile telephone and video camera system
US20160291703A1 (en) * 2015-03-31 2016-10-06 Sony Corporation Operating system, wearable device, and operation method
KR20170014458A (ko) * 2015-07-30 2017-02-08 엘지전자 주식회사 이동 단말기, 워치 타입의 이동 단말기 및 그 제어 방법
CN105433529B (zh) * 2015-07-31 2017-05-31 河南师范大学新联学院 一种智能手环
KR102430941B1 (ko) * 2015-08-11 2022-08-10 삼성전자주식회사 생체 상태 정보 제공 방법 및 이를 지원하는 전자 장치
KR102432746B1 (ko) * 2015-08-11 2022-08-16 삼성전자주식회사 전자 장치 및 그의 동작 방법
CH711445A1 (de) * 2015-08-24 2017-02-28 yband therapy GmbH Vorrichtung und Verfahren zur Erfassung und Auswertung von Bewegungen eines Benutzers.
CN106249849B (zh) * 2015-08-28 2019-06-11 北京智谷睿拓技术服务有限公司 输入信息确定方法和设备
CN106249852A (zh) * 2015-09-15 2016-12-21 北京智谷睿拓技术服务有限公司 输入信息确定方法和设备
US10348355B2 (en) * 2015-09-16 2019-07-09 Intel Corporation Techniques for gesture recognition using photoplethysmographic (PPMG) sensor and low-power wearable gesture recognition device using the same
KR20170033062A (ko) * 2015-09-16 2017-03-24 엘지전자 주식회사 이동 단말기 및 그 제어 방법
US20170083101A1 (en) * 2015-09-17 2017-03-23 International Business Machines Corporation Gesture recognition data transfer
US20170108939A1 (en) * 2015-10-16 2017-04-20 Samsung Electronics Co., Ltd. Method and apparatus for controlling a device based on personalized profiles on a wearable device
US9923930B2 (en) 2015-11-19 2018-03-20 Bank Of America Corporation Selectively enabling and disabling biometric authentication based on mobile device state information
KR102570068B1 (ko) 2015-11-20 2023-08-23 삼성전자주식회사 동작 인식 방법, 동작 인식 장치 및 웨어러블 장치
US10716478B2 (en) * 2015-12-29 2020-07-21 Motorola Mobility Llc Wearable device heart monitor systems
CN105595995B (zh) * 2016-01-29 2019-05-21 电子科技大学 生理数据检测系统、检测装置、终端设备、数据分析方法
US10182309B2 (en) * 2016-03-30 2019-01-15 Honeywell International Inc. Magnetic fingerprinting for proximity-based systems
US20170310673A1 (en) * 2016-04-20 2017-10-26 Huami Inc. Security system with gesture-based access control
US9912883B1 (en) 2016-05-10 2018-03-06 Apple Inc. Image sensor with calibrated column analog-to-digital converters
EP3486746B1 (en) * 2016-07-12 2024-01-03 Mitsubishi Electric Corporation Apparatus control system
KR102452314B1 (ko) * 2016-09-08 2022-10-07 삼성전자주식회사 컨텐츠 재생 방법 및 이를 지원하는 전자 장치
JP6818875B2 (ja) 2016-09-23 2021-01-20 アップル インコーポレイテッドApple Inc. 積層背面照射型spadアレイ
US20180103906A1 (en) * 2016-10-17 2018-04-19 CU Wellness, Inc. Multifunction buckle for a wearable device
US10656251B1 (en) 2017-01-25 2020-05-19 Apple Inc. Signal acquisition in a SPAD detector
US10801886B2 (en) 2017-01-25 2020-10-13 Apple Inc. SPAD detector having modulated sensitivity
US10962628B1 (en) 2017-01-26 2021-03-30 Apple Inc. Spatial temporal weighting in a SPAD detector
US20170252633A1 (en) * 2017-03-25 2017-09-07 Clarence Wheeler Sports Retronic Band
CN107037468A (zh) * 2017-05-24 2017-08-11 中国运载火箭技术研究院 一种用于古籍保护箱的多功能仪
DE102017113280A1 (de) * 2017-06-16 2018-12-20 Vorwerk & Co. Interholding Gmbh Haushaltsgerät
US10622538B2 (en) 2017-07-18 2020-04-14 Apple Inc. Techniques for providing a haptic output and sensing a haptic input using a piezoelectric body
US10440301B2 (en) 2017-09-08 2019-10-08 Apple Inc. Image capture device, pixel, and method providing improved phase detection auto-focus performance
EP3701408A1 (en) * 2017-10-24 2020-09-02 Orcam Technologies Ltd. Wearable camera systems and methods for authenticating identity
US10488831B2 (en) * 2017-11-21 2019-11-26 Bose Corporation Biopotential wakeup word
CN108089705B (zh) * 2017-12-19 2020-03-24 广东小天才科技有限公司 穿戴设备的防盗方法和装置、终端以及存储介质
EP3721326A4 (en) * 2018-02-27 2020-12-16 Samsung Electronics Co., Ltd. GRAPHIC OBJECT DISPLAY PROCESS DIFFERENTLY ACCORDING TO A PART OF A BODY IN CONTACT WITH A CONTROL DEVICE AND ELECTRONIC DEVICE
US10466783B2 (en) 2018-03-15 2019-11-05 Sanmina Corporation System and method for motion detection using a PPG sensor
CN110415389B (zh) 2018-04-27 2024-02-23 开利公司 姿势进入控制系统和预测移动设备相对于用户所在部位的方法
CN110415387A (zh) * 2018-04-27 2019-11-05 开利公司 包括设置在由用户携带的容纳件中的移动设备的姿势进入控制系统
KR102168975B1 (ko) * 2018-04-30 2020-10-22 이휘원 웨어러블 기기를 이용하여 객체의 이벤트를 자동으로 감지하는 방법 및 이를 운용하는 관리 서버
US10661145B2 (en) * 2018-06-20 2020-05-26 BTE Enterprises, LLC Sports swing training device
US11019294B2 (en) 2018-07-18 2021-05-25 Apple Inc. Seamless readout mode transitions in image sensors
US10848693B2 (en) 2018-07-18 2020-11-24 Apple Inc. Image flare detection using asymmetric pixels
US10802598B2 (en) * 2018-08-05 2020-10-13 Pison Technology, Inc. User interface control of responsive devices
US11099647B2 (en) * 2018-08-05 2021-08-24 Pison Technology, Inc. User interface control of responsive devices
US10897788B2 (en) * 2018-11-29 2021-01-19 Lenovo (Singapore) Pte. Ltd. Wireless connection establishment between devices
US11233966B1 (en) 2018-11-29 2022-01-25 Apple Inc. Breakdown voltage monitoring for avalanche diodes
US20220139204A1 (en) * 2019-02-14 2022-05-05 Ruth Nicola Millican Mobile personal-safety apparatus
TWI689859B (zh) * 2019-03-19 2020-04-01 國立臺灣科技大學 由手腕偵測肌動訊號識別使用者手勢之系統及方法
EP3941032A4 (en) * 2019-05-07 2022-12-14 Inhandplus Inc. TECHNO PORTABLE DEVICE FOR PERFORMING EVENT DETECTION USING A CAMERA MODULE AND A WIRELESS COMMUNICATION DEVICE
US20200408592A1 (en) * 2019-06-25 2020-12-31 Tactual Labs Co. Mems sensing system
US11686835B2 (en) * 2019-06-25 2023-06-27 Tactual Labs Co. Positioned enhanced sensor detection
US11759148B2 (en) * 2019-05-22 2023-09-19 Tactual Labs Co. Wearable multimodal-sensing device
US11258880B2 (en) * 2019-06-24 2022-02-22 Amazon Technologies, Inc. Wearable device for controlling endpoint devices
CN110632632A (zh) * 2019-09-05 2019-12-31 厦门盈趣汽车电子有限公司 一种跟踪器及其功能设置方法
US11157086B2 (en) 2020-01-28 2021-10-26 Pison Technology, Inc. Determining a geographical location based on human gestures
US11199908B2 (en) 2020-01-28 2021-12-14 Pison Technology, Inc. Wrist-worn device-based inputs for an operating system
US11563910B2 (en) 2020-08-04 2023-01-24 Apple Inc. Image capture devices having phase detection auto-focus pixels
KR102344338B1 (ko) 2020-08-19 2021-12-29 인핸드플러스 주식회사 약물 이행 모니터링 시스템 및 이를 이용하는 장치
US11546532B1 (en) 2021-03-16 2023-01-03 Apple Inc. Dynamic correlated double sampling for noise rejection in image sensors
US11460919B1 (en) * 2021-03-16 2022-10-04 Zeit Technologies Corporation Wearable gesture detector
CN115162891A (zh) * 2022-06-29 2022-10-11 重庆长安汽车股份有限公司 一种汽车车门的开启方法、系统及汽车

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6244873B1 (en) * 1998-10-16 2001-06-12 At&T Corp. Wireless myoelectric control apparatus and methods
CH697402B1 (de) * 2005-06-01 2008-09-30 Lifejob Ag Vorrichtung und Verfahren zur Erfassung und Verarbeitung von lebensbedrohenden Gesundheits-Gefahren bei älteren und behinderten Personen.
CN102846314A (zh) * 2011-06-29 2013-01-02 Lg电子株式会社 移动终端及其测量生物电信号的方法
CN103327168A (zh) * 2012-03-21 2013-09-25 Lg电子株式会社 移动终端及其控制方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7102507B1 (en) * 2004-07-21 2006-09-05 Givi Lauren Keyless entry system
KR20090089011A (ko) * 2008-02-18 2009-08-21 한국과학기술원 웨어러블 컴퓨터 및 디바이스의 착용인식장치 및 그 방법
US8503932B2 (en) * 2008-11-14 2013-08-06 Sony Mobile Comminications AB Portable communication device and remote motion input device
US20120046009A1 (en) * 2010-08-23 2012-02-23 Sony Ericsson Mobile Communications Ab Personal Emergency System for a Mobile Communication Device
KR101817587B1 (ko) * 2012-01-04 2018-01-11 나이키 이노베이트 씨.브이. 운동용 시계
CN105027030B (zh) * 2012-11-01 2018-10-23 艾卡姆有限公司 用于三维成像、映射、建网和界面连接的无线腕式计算和控制设备和方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6244873B1 (en) * 1998-10-16 2001-06-12 At&T Corp. Wireless myoelectric control apparatus and methods
CH697402B1 (de) * 2005-06-01 2008-09-30 Lifejob Ag Vorrichtung und Verfahren zur Erfassung und Verarbeitung von lebensbedrohenden Gesundheits-Gefahren bei älteren und behinderten Personen.
CN102846314A (zh) * 2011-06-29 2013-01-02 Lg电子株式会社 移动终端及其测量生物电信号的方法
CN103327168A (zh) * 2012-03-21 2013-09-25 Lg电子株式会社 移动终端及其控制方法

Also Published As

Publication number Publication date
US20150215443A1 (en) 2015-07-30
KR20150088599A (ko) 2015-08-03
EP2899952B1 (en) 2019-05-01
EP2899952A1 (en) 2015-07-29
KR102135586B1 (ko) 2020-07-20
US9467553B2 (en) 2016-10-11
CN104808783A (zh) 2015-07-29

Similar Documents

Publication Publication Date Title
CN104808783B (zh) 移动终端及其控制方法
US10970936B2 (en) Use of neuromuscular signals to provide enhanced interactions with physical objects in an augmented reality environment
US20200097081A1 (en) Neuromuscular control of an augmented reality system
US20220256255A1 (en) System and method communicating biofeedback to a user through a wearable device
US10921764B2 (en) Neuromuscular control of physical objects in an environment
CN109804331B (zh) 检测和使用身体组织电信号
CN104123435B (zh) 用于计算运动活动参数的电子模块和活动监控系统
CN104951069B (zh) 用于使用可穿戴传感器平台的生理测量的置信度指示
CN104665820B (zh) 可穿戴式移动装置以及使用其测量生物信号的方法
CN104238736B (zh) 利用抓握对象识别运动的装置、方法和系统
JP2016529980A (ja) 手首に装備されるジェスチャ認識と電力管理を行なうアスレチック装置
KR102502969B1 (ko) 와치타입 단말기
US20200015736A1 (en) Providing feedback to a patient performing an exercise based on measured parameters from a therapy device
WO2015033327A1 (en) Wearable controller for wrist
AU2022268375B2 (en) Multiple switching electromyography (emg) assistive communications device
US20160051185A1 (en) System and method for creating a dynamic activity profile using earphones with biometric sensors
US20230113991A1 (en) Biopotential-Based Gesture Interpretation With Machine Labeling
CN105511750A (zh) 一种切换方法及电子设备
KR102048551B1 (ko) 스마트 기기를 이용한 vr 재활 훈련 시스템 및 방법
CN112204501A (zh) 可穿戴式姿势识别装置及相关的操作方法和系统
CN114255511A (zh) 用于手势识别的控制器和方法以及手势识别设备
CN110801615A (zh) 一种基于虚拟现实的健身装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20190726

Termination date: 20211229