CN106462230A - 用于操作显示装置的方法和系统 - Google Patents

用于操作显示装置的方法和系统 Download PDF

Info

Publication number
CN106462230A
CN106462230A CN201580016896.5A CN201580016896A CN106462230A CN 106462230 A CN106462230 A CN 106462230A CN 201580016896 A CN201580016896 A CN 201580016896A CN 106462230 A CN106462230 A CN 106462230A
Authority
CN
China
Prior art keywords
parameter
resolution
user
previously given
capture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201580016896.5A
Other languages
English (en)
Other versions
CN106462230B (zh
Inventor
E.施密特
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
SensoMotoric Instruments Gesellschaft fuer Innovative Sensorik mbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SensoMotoric Instruments Gesellschaft fuer Innovative Sensorik mbH filed Critical SensoMotoric Instruments Gesellschaft fuer Innovative Sensorik mbH
Publication of CN106462230A publication Critical patent/CN106462230A/zh
Application granted granted Critical
Publication of CN106462230B publication Critical patent/CN106462230B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/103Formatting, i.e. changing of presentation of documents
    • G06F40/106Display of layout of documents; Previewing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • G06F40/177Editing, e.g. inserting or deleting of tables; using ruled lines
    • G06F40/18Editing, e.g. inserting or deleting of tables; using ruled lines of spreadsheets
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/391Resolution modifying circuits, e.g. variable screen formats
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/045Zooming at least part of an image, i.e. enlarging it or shrinking it
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Artificial Intelligence (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)
  • Eye Examination Apparatus (AREA)
  • Position Input By Displaying (AREA)

Abstract

本发明涉及一种用于操作显示装置(12)的方法,包括以下步骤:捕获用户(14)的头部的至少一部分的图像数据(步骤110),从在步骤a)中捕获的图像数据中确定用户(14)通过移动头部的至少一部分可改变的至少一个参数(步骤120),基于所确定的至少一个参数,控制显示装置(12)上的视觉表示(步骤130),其中,基于步骤a)中的捕获确定至少一个质量参数(步骤140),并且基于所述至少一个质量参数,改变所述视觉表示的至少一部分的至少一个分辨率(步骤150)。此外,本发明涉及一种对应的计算机程序产品和对应的用于操作显示装置的系统。

Description

用于操作显示装置的方法和系统
技术领域
本发明涉及一种用于操作显示装置的方法,其包括如下步骤:首先,捕获用户的头部的至少一部分的图像数据。随后,根据所捕获的图像数据确定用户通过移动头部的至少一部分可改变的至少一个参数,随后依据所确定的至少一个参数控制在显示装置上的视觉表示。此外,本发明涉及一种计算机程序产品,具有用于计算设备的程序,该程序具有程序代码部分,该程序代码部分用于当在计算机设备上执行该程序时执行和/或产生该方法的步骤。最后,本发明包括对应的用于操作显示装置的系统,具有:捕获设备,用于捕获用户的头部的至少一部分的图像数据;至少一个计算设备,其被适配为从由捕获设备捕获的图像数据中确定用户通过移动头部的至少一部分可改变的至少一个参数;以及控制设备,用于依据由计算设备确定的至少一个参数控制在显示装置上的视觉表示。
背景技术
在这种情境下,已知所谓的跟踪设备,例如眼睛、脸部或者头部跟踪器,其被适配为提供用户的头部的至少一部分的图像,并且根据其确定查看方向、眼睛运动以及用户的其它眼睛和头部数据。这些跟踪设备可以作为物理单元或者以分布的方式实现。如果例如照相机和照明分离地提供或者集成在监视器中,同时用于数据处理的程序在连接到其的计算机、例如PC、平板PC或者智能电话等上运行,则它们是分布式的。然而,如果计算机单元例如以用户佩戴的眼镜、平板PC或者膝上型计算机的方式集成在设备中,则这些跟踪设备也可以作为物理单元来形成,其中,该设备进一步具有至少一个照相机、至少一个显示器以及任选地至少一个照明设备。然而,任选地,在这种情况下也可以设置为,将计算机单元经由至少一个照相机捕获并且任选地经过处理的数据传递到另一个计算机,例如PC、平板PC或者智能收集等来使用。
从由跟踪设备确定的图像数据中确定用户通过移动头部的一部分可改变的至少一个参数。该参数例如可以是查看方向,但是也可以是眼睛运动、头部运动以及其它眼睛和头部数据。然后,使用该至少一个参数来控制软件应用在显示装置上的视觉表示,例如使表示滚动,选择Excel表中的单元格进行处理,选择图标等。以这种方式,不能对计算机程序进行传统的操作的残疾人例如也可以使用软件应用。
在下面的说明的范围内,表述“应用”表示应用程序、例如Word。表述“文件”表示文档,例如当前文档。上下文参数可以被绑定到文件或者应用或者更小的单元、例如对象、设置等。
很明显,用户发现通过借助于跟踪设备进行控制来操作软件应用在不同的情形下更难或者更容易,其中,可操作性还可能与软件应用的要求、特别是相应地寻求的交互的要求有关。
发明内容
因此,本发明要解决的技术问题是,提供在开头提到的方法、对应的计算机程序产品以及对应的系统,借助其,即使在非常不同的情形下,也使得在显示装置上视觉地表示的软件应用的操作尽可能简单并且可靠。
上述技术问题通过具有权利要求1的特征的方法、具有权利要求13的特征的计算机程序产品以及具有权利要求14的特征的系统来解决。
本发明基于多种认知的组合:一方面,借助跟踪设备对软件应用在显示装置上的视觉表示的控制的鲁棒性在很大程度上受用户的环境条件、外貌和化妆的眼睛和/或头部参数影响。另一方面,控制的鲁棒性受用户的行为影响。此外,鲁棒性以及还有所提及的参数对其的影响根据所使用的技术部件、例如照相机传感器、光学装置、任选地存在的照明等的具体特性而不同。也就是说,不同的跟踪设备,甚至具有相同的设计的不同的装置不为所有用户、应用和情形提供相同的测量精度和鲁棒性。此外,所提及的鲁棒性的差异的影响根据要控制的软件应用的要求而不同。与控制相关的元件在平面上表示得越小,可操作性的鲁棒性变化的影响和用户感知越大。最后,要考虑,用户越多地使用这些控制技术,并且使用领域和软件应用变得越普通、即越不受控制,则可操作性的平均质量以及用户感知就变得越重要。
为了使得可以操作软件应用的这些交互设备、即跟踪设备能够对于非常不同的用户有效地使用,在本发明中,确定反映精度的至少一个质量参数,并且针对交互提供“自适应放大(adaptive zoom)”。
如果用户例如通过本发明的范围内的查看方向选择了电子表格程序中的单元格,则根据本发明,为此可以以放大水平向用户提供单元格网格,该放大水平利用专用的跟踪设备或者在受环境条件影响的特定情形下,被匹配于图像数据的捕获质量或者所确定的上面提到的一个参数的精度,或者匹配于特定用户匹配。相反,存在如下可能性:使得由应用提供的选择设备、例如电子表格程序中的通常为一个单元格大小的单元格标记变为与从当前可实现的精度得到的一样多的单元格那样大。这与用户的物理特性、环境条件、所使用的硬件、用户和跟踪设备之间的距离以及其它条件有关。相应地,如果精度仅为4个单元格那么大,则总是以高亮的方式显示4个单元格的块作为选择元件。此外,在非离散的交互场景中,光标或者鼠标指针也可以被适配于图像数据的捕获的当前质量和/或所确定的上面提及的参数的精度,并且在质量较差或者精度较低的情况下变得大得多,使得对软件应用的控制总是与视觉预期对应地进行。
表示的差异不是必须大,但是也可以非常小。关键是,进行适配,使得用户也可以进行他基于软件应用的操作元件的视觉表示所预期的交互。
因此,根据本发明,基于图像数据的捕获来确定至少一个质量参数,随后至少与至少一个质量参数有关地改变视觉表示的至少一部分的分辨率。
术语分辨率在本发明的范围内意为视觉表示的大小。改变分辨率的含义可以是在大小不变的情况下改变每个对象的像素的数量,但是在此不是必须进行。
相应地,如果基于捕获的图像数据、例如根据捕获的图像数据本身或者根据由该图像数据计算的中间或结果数据确定了差的质量,则由此可以改变视觉表示的至少一部分的分辨率,以进一步使得即使在这些差条件下用户也能够借助跟踪设备对软件应用进行操作。以这种方式,可以提供最佳分辨率、例如在显示装置上表示的视觉表示的放大水平,以使得最佳“虚拟精度”能够用于用户与软件应用的交互。
通过根据本发明的方法,可以针对非常不同的用户、硬件设备和环境条件相应地提供这些应用的高鲁棒性。特别是,在廉价的硬件设备的情况下、在要控制的软件应用的精度要求高或者具有有限的操作能力的用户的情况下,也使得能够对这种应用进行可靠的操作。
其中,质量参数与根据图像数据确定的参数的或者图像数据本身的质量、特别是测量精度有关。其表示确定的参数的、特别是还有参数的确定的精度、特别是测量精度的度量,由此是与确定的参数不同的参数。其中,质量参数和确定的参数基于相同的图像数据来确定。其中,质量参数特别是可以基于该图像数据和/或基于确定的参数来确定。为了确定质量参数,优选对包含在参数的确定和/或确定的参数本身中的数据进行分析,其中,该数据特别是可以表示捕获的图像数据和/或根据图像数据计算的中间和/或结果数据。因此,确定的参数可以被解释为表示测量的量,其中,质量参数指示与测量的量相关联的测量精度或可靠性或者与测量的量相关联的精度、特别是测量精度的度量。因此,质量参数特别是还以预测的方式量化例如确定的参数与实际参数的偏差有多大,例如是最大、最小还是为平均值,例如是所确定的查看方向与实际查看方向之间的最大可能偏差。质量参数还可以指示确定的参数与对应的实际参数的例如最大偏差的估计值。质量参数例如还可以指示在时间上立即或者以特定时间间隔连续确定的参数的实际或估计的偏差,例如以连续确定的参数在平均值周围的分布的形式。对此,为了确定偏差,尤其也可以使用确定的参数之间的绝对差值的总和或者确定的参数与确定的参数的平均值之间的绝对差值的总和或者其它方法、例如标准偏差、方差、相关、谱恒定的度量(谱平坦度)。例如可以针对固定或者固定并且重叠的时间段或者根据查看事件(固定、扫视等)确定的时间段,确定作为确定的参数的时间偏差的质量参数。
因此,确定的参数具有指示或反映相关联的质量参数的测量误差。例如可以设置为,质量参数本身在此不指示对测量精度有影响的环境条件或者环境影响,但是表示测量精度或者测量精度本身的度量。由此,质量参数本身例如不指示关于用户的位置信息,并且例如其也不能根据质量参数得到。因此,有利地不是必须一定在捕获图像数据本身时知道环境条件、例如环境亮度、用户到捕获设备的距离等,然而可以确定并且指示它们对参数确定的影响,例如在质量参数观察图像参数、例如对比度和噪声分量,并且根据其确定对确定的参数的精度或稳定性的影响。然而,在需要时,也可以根据图像参数得出关于环境条件、例如环境亮度的结论。
优选为了确定至少一个质量参数,可以对根据图像数据确定的参数的至少一个质量和/或幅值、和/或图像数据捕获的质量和/或捕获的图像数据进行分析。由此,确定的参数的测量精度可以有利地确定,而无需知道或者直接测量当前环境条件。特别是,在上面提到的分析中,也可以对根据图像数据确定的、确定参数所需的中间参数的幅值和/或对图像数据的质量进行评价。
如果分辨率与视觉表示的特性、特别是大小有关,则因此优选改变分辨率,使得在由质量参数指示的确定的参数的质量较低的情况下,提高分辨率,例如相对于由质量参数指示的精度较高的情况下的分辨率,将表示增大。如果分辨率与视觉表示涵盖的可移动元件的移动速度的分辨率有关,则例如改变分辨率,使得在精度较低的情况下降低分辨率,例如相对于确定的参数的精度较高的情况下的分辨率,降低移动速度。这促进了用户在两种情况下对表示的控制。
优选视觉表示包括通过头部的至少一部分的移动可移动的至少一个元件,其中,在步骤e)中,依据至少一个质量参数改变至少一个可移动元件的移动速度的分辨率。
在差的条件下,用户可能无法通过头部的至少一部分的移动以给定分辨率准确地达到视觉表示上的元件。如果然后降低可移动元件的移动速度的分辨率,则以这种方式促进对应用的操作。
在优选实施例中,在步骤e)中,依据至少一个质量参数改变整个视觉表示的分辨率。以这种方式,促进了例如作为眼部疾病、年龄等的结果而具有有限的视觉能力的用户例如对软件应用的操作。
替换地,在步骤e)中,可以依据至少一个质量参数仅改变视觉表示的一部分的分辨率。由此,如果例如仅以改善的分辨率表示相应地活动的窗口的内容,则能够在显示装置上表示的内容仅不显著地减少,使得其例如能够以多个窗口工作,而不管分辨率的提高。
视觉表示可以包括至少一个静态和/或动态元件,其中,在步骤e)中,依据至少一个质量参数改变静态和/或动态元件的分辨率。作为改变分辨率的视觉表示的一部分,可以考虑以下组中的元件中的至少一个:与放大镜功能(magnifier function)有关的区域,可预先给定的工作窗口的内容,鼠标指针,光标和/或视觉表示产生的应用的逻辑片段。例如,这可能与Excel或者另一软件应用的工作表的单元格区域、单元格的内容、图标条、其下拉菜单、滚动条等有关。
以这种方式,可以改变、即例如在差的条件下增大选择设备、因此增大鼠标指针或者光标,使得其再现用户能够选择视觉地表示在当前情形下在显示装置上表示的应用的目标对象的精度的水平。
优选为了确定至少一个质量参数,确定以下组中的至少一个量:在步骤a)中捕获的图像数据的参数,特别是图像中的和/或至少一个确定的对象的噪声分量、频率和/或强度分布,另一方面和/或对在步骤a)中捕获的图像数据的评价中的、另一方面特别是根据捕获的图像数据计算的中间或结果数据中的参数。
换句话说,可以在从照相机图像直到最后计算的数据的信号处理链的每个位置处确定质量参数。在确定的对象的噪声分量、信噪比或者其它参数中尤其考虑瞳孔、角膜缘或角膜反射。在结果数据的噪声分量中特别是例如考虑查看方向或者头部朝向。
为了确定至少一个质量参数,优选针对以下量中的至少一个对在步骤a)中捕获的图像数据进行分析:可预先给定的频率范围内的频率分量,特别是通过空间-时间频率分析和小波,可预先给定的图像区域中的对比度值,特别是图像区域中的梯度、边缘、强度、频度/分布,可预先给定的参数的幅值,结果数据的幅值,至少一个可预先给定的对象的存在和/或根据在步骤a)中捕获的图像数据确定的中间或结果数据的改变或加速率。此外,特别是考虑对应的机器/自适应学习方法以用于分析。通过评价可预先给定的频率范围内的频率分量,可以将噪声分量或者抖动评价为异常。在对对比度值进行评价时,可以考虑特别是特定测量对象、例如瞳孔等周围的特定图像区域来进行评价。在可预先给定的参数的幅值中,特别是考虑测量对象的幅值。如果例如确定了小的角膜反射,则一定程度上要假设低的测量质量。在结果数据的幅值中,例如考虑查看角:因此,小的查看角一定程度上是高测量质量的指示,而大的查看角一定程度上表示低测量质量的指示。如果检查到可预先给定的对象的存在,则例如要考虑是否确定了一只或两只眼睛的存在。例如,如果找到了两只眼睛的全部的搜索的角膜反射,则因此这是比在未发现一只或两只眼睛中的角膜反射的情况下高的测量质量的指示。此外,如果两只眼睛的查看角例如相差大于可预先给定的阈值,则因此这可以是低测量质量的指示。例如头部位置数据的高的改变或加速率一定程度上代表低测量质量,而相反低的改变和加速率代表高测量质量。
可以根据线性、非线性、连续和/或不连续的特征曲线改变分辨率。以这种方式,例如可以进行与对应的计算单元的性能的适配,或者可以适应特定应用的具体要求。例如,隐式应用情况或者还有有时称为被动的应用情况(其中例如使用、但是未示出到表示的视点,如例如这是一些游戏中的情况)以连续的特征曲线更好地工作。显式应用情况、因此使得视点可见并且用户可见地移动例如光标或者另一选择标记的显式应用情况、例如电子表格程序或者输入掩码以离散的倍率更好地工作。这对于通过头部移动与应用的交互同样适用。非线性特征曲线特别是在如下应用情况下是合理的:在这些应用情况下,表示的交互元件的大小差异显著,并且必须以更低的测量质量快速地选择更严重的倍率,以确保平滑的交互。
可以设置为,用户特别是可以通过键命令、语音命令或者手势命令打开和关闭分辨率的改变。例如,如果提高了整个视觉表示的分辨率,则这可能导致促进利用在工作窗口中运行的电子表格程序的工作的事实。然而,在处理之后或者期间,其它工作窗口可能不好辨认。通过打开和关闭分辨率的改变的可能性,能够再次以简单的方式辨认显示装置上的所有工作窗口,例如以使得软件应用能够对于用户改变。另外,存储并且再次调用全局地适合于用户或者具体地适合于特定应用情况的一个或更多个分辨率可以是合理的。可以特别有用的是,将这些具体分辨率与应用情况绑定并且在其出现的情况下自动对其进行调整,使得可以在用户处出现习惯效果,并且分辨率不多于需要地改变。
优选在步骤a)之后、特别是与步骤b)一起或者在步骤b)和步骤c)之间或者替换地以连续的方式,即首先在步骤a)之后,进一步以可预先给定的时间间隔和/或依据至少一个可预先给定的事件,优选在超过和/或低于用于图像、中间或结果数据的、特别是根据该数据得到的至少一个质量参数的至少一个可预先给定的阈值时,确定至少一个质量参数。作为确定至少一个质量参数的特别优选的时间点,要提到可能意味着操作元件的新的尺寸的系统初始化的时间点,包括校准和验证或者改变应用、文件、视图或者处理步骤的时间点。
改变分辨率所需的计算可以在跟踪设备中、例如在眼睛跟踪器中或者通过目标计算机上的单独的程序或者作为操作系统的一部分或者作为应用的一部分来进行。
作为用户的头部的至少一部分,优选移动其头部本身和/或用户的一只和/或两只眼睛。
其它优选实施例从从属权利要求中变得明显。
只要适用,针对根据本发明的方法呈现的优选实施例和其优点对应地适用于根据本发明的计算机程序产品和根据本发明的用于操作显示装置的系统。
附图说明
现在,下面参考附图更详细地描述本发明的实施例。其中:
图1以示意性图示示出了根据本发明的系统的第一实施例的构造;
图2以示意性图示示出了根据本发明的系统的第二、第三和第四实施例的构造;
图3示出了本发明的第一应用示例;
图4示出了本发明的第二应用示例;
图5示出了本发明的第三应用示例;
图6以示意性图示示出了根据本发明的方法的第一实施例的信号流程图;以及
图7以示意性图示示出了根据本发明的方法的第二实施例的信号流程图。
下面,在不同的图中,为了清楚起见,对于相同和相同地动作的元件使用相同的附图标记。
具体实施方式
图1以示意性图示示出了根据本发明的系统10的构造,例如其特别是可以在固定情形中应用。其中,监视器12位于用户14前面,其中,眼睛跟踪器16布置在监视器12的底部,眼睛跟踪器16包括照明设备17和照相机设备15,用于捕获用户14的头部的至少一部分的图像数据。数据处理设备18耦合到监视器12和眼睛跟踪器16,软件应用20存储在数据处理设备18中,软件应用20在监视器12上产生视觉表示。借助于耦合到数据处理设备的计算设备24的控制设备22,可以控制应用在监视器12上的视觉表示。形成计算设备24,以基于由眼睛跟踪器16捕获的用户的头部的至少一部分、特别是其头部本身或者一只或两只眼睛的图像数据,确定至少一个质量参数。控制设备22被适配为依据由计算单元24确定的至少一个质量参数,改变监视器12上的视觉表示的至少一部分的分辨率。在未示出的实施例中,也可以设置多个照明设备17和/或多个照相机设备15。此外,替换地,上述质量参数的确定也可以在容纳在眼睛跟踪器中的计算设备上进行,其中,然后仅将测量数据和确定的质量参数传递到数据处理设备18。
为了确定至少一个质量参数,计算单元24可以对捕获的图像数据中的参数、特别是图像中的噪声分量和/或确定的对象的噪声分量进行评价。其也可以对捕获的图像数据中的评价中、特别是根据捕获的图像数据计算的中间或结果数据中的参数进行评价。对此,计算单元24可以被适配为针对可预先给定的频率范围内的频率分量、可预先给定的图像区域中的对比度值、可预先给定的参数的幅值、结果数据的幅值、可预先给定的对象的存在和/或根据捕获的图像数据确定的中间或结果数据的改变或加速率,对捕获的图像数据进行分析。
图2示意性地示出了根据本发明的系统的实施例的部件,例如它们优选可以在可移动情形中应用。其中,使用眼睛跟踪器16,其可以由用户14以眼镜的方式佩戴,并且除了用于捕获用户14的至少一只眼睛的图像数据的至少一个照相机15之外,还具有至少一个显示单元12、例如显示器,其耦合到可佩戴的眼睛跟踪器16,使得可以将图像投影到用户14的至少一只眼睛中。图2a示出了单眼实施例,而在图2b中示出了双眼实施例。单眼实施例可以仅利用一个照相机15和一个显示装置12形成,而双眼实施例利用两个显示装置12a、12b和两个照相机15a、15b来实现。
在图2c中示出的实施例中,显示装置12像在封闭的头戴式显示器(HMD,head-mounted display)中一样以不透明的方式形成,并且布置在或多或少封闭的面具中,该面具此外以单眼或者双眼的形式包含至少一个照相机15以及LED 17a和与LED 17a相关联的、眼睛跟踪器16的光学装置17b。在该实施例中,显示装置12为用户14的双眼提供图像。
图1的数据处理设备18可以设置在图2的实施例中的各个眼睛跟踪器16以及提到的替换方案中。然而,也可以将其眼睛跟踪器16经由线缆或者无线电耦合到移动或者固定的数据处理设备18。在数据处理设备18的移动设计的情况下,其优选可以作为智能电话或者平板PC形成。
图3以示意性图示示出了本发明在电子表格程序、例如Excel中的应用的示例。依据确定的质量参数,根据放大镜功能在区域26中提高分辨率。区域26可以依据根据捕获的图像数据确定的用户的查看方向,在整个视觉表示28上移动。可以清楚地看到,区域26内的单元格30的尺寸明显大于区域26外部的单元格32的尺寸。进一步可以看到,用户14通过可预先给定的措施激活了单元格30以进行处理。根据本发明,与针对区域26外部的表示所使用的分辨率相比,可以以与所确定的质量参数的状态以及任选地与上下文信息对应的更大的分辨率进行处理。可以设置为,用户可以存储并且再次使用曾经确定的倍率设置。此外,可以设置为,可以在确定质量参数的改变时,改变分辨率。由此,总是实现用于有效操作的最佳表示。
一方面,该功能使得用户14能够保持总览,另一方面,其使得能够在良好的光学条件下进行处理。用于激活区域26内的单元格30的措施例如可以是,用户14使其视线指向该单元格,任选地同时按下键,执行手势或者传送声音信号。还可以设置为,以用户14使其视线指向该单元格30,并且一只或者两只眼睛在可预先给定的时间窗口内眨动或者对于可预先给定的最小时间盯住该单元格,以进行区域26内的单元格30的激活。本领域技术人员可以想到其它可能性,但是这不是本发明的主题。
图4示出了本发明的另一个应用示例。这里,依据至少一个质量参数改变工作栏、即例如工作窗口的分辨率。如果存在良好的条件,即例如高质量跟踪设备、良好的照明、跟踪设备和用户之间的距离小等,则例如可以像工作窗口34a一样在显示装置12上以较低的分辨率呈现工作窗口。然而,如果质量参数指示差的条件,则以改善的分辨率表示工作窗口,参见工作窗口34b。
图5示出了本发明的另一个应用。在左侧示出了良好条件下的监视器12上的视觉表示,而在右侧示出了差的条件下的同一应用的视觉表示。可以清楚地看到,提高了整个表示的分辨率。
图6示出了根据本发明的方法的实施例。该方法在步骤100中开始。在步骤110中,捕获用户的头部的至少一部分的图像数据。随后,在步骤120中,根据在步骤110中捕获的图像数据,确定用户通过移动头部的至少一部分可改变的至少一个参数。随后,在步骤130中,依据所确定的至少一个参数和预先设置的分辨率,控制显示装置上的视觉表示。例如,在步骤120中确定查看方向,由此激活单元格30,对此例如参见图3和4。在任何情况下,然后,测量循环进一步连续运行,如由步骤140所表示的,以根据图像数据确定参数,至少只要如此配置的交互是活动的。
此外,目前在步骤150中,基于在步骤110中捕获的图像数据确定至少一个质量参数。其中,可以对直接捕获的图像数据进行评价,或者也可以对根据其计算的中间或结果数据进行评价。其中,特别是更详细地检查图像中的噪声分量和/或确定的对象的噪声分量,或者例如确定的查看方向的噪声分量。
在步骤160中,检查质量参数的值是否在可预先给定阈值以上。如果是这种情况,则因此在步骤170中,依据该值针对显示装置上的视觉表示的至少一部分改变预先设置的分辨率。然而,如果在步骤160中确定下降到阈值以下,则以步骤200或者以步骤210(根据实现方式)继续该方法。
步骤150至170可以例如在根据本发明的系统的初始化、特别是包括校准或者验证中执行一次。在这种情况下,任选地在绕过步骤160的情况下,在步骤180中分支到由“是”指示的分支,于是该方法在步骤190中终止(当然包括步骤110、120、130和140的测量循环继续)。
如果要继续进行评价,则该方法根据惯例经由步骤200或者步骤210在步骤180中向后分支。在根据步骤200或者步骤210向后分支时,可以定期地继续进行(如目前所示出的)或者也可以通过事件或阈值触发步骤150至180。
图7示出了以电子表格程序Excel和使用眼睛跟踪器作为跟踪设备为例的根据本发明的方法的实施例。其中,在步骤300中,首先校准并验证眼睛跟踪器。为此,眼睛跟踪器例如测量用户14观看的监视器12上的位置(凝视点),并且依据监视器坐标验证准确性。在步骤310中,启动Excel并且打开应用文件。随后,在步骤320中,激活查看方向光标,即用户通过改变他的查看方向可以在监视器上移动的光标。例如经由可预先给定的键盘上的键进行激活。
随后,即在步骤330中或者与步骤320同时,激活根据本发明的基于质量参数的分辨率控制。如果这不在步骤320中同时进行,则其也可以在步骤330中通过按下可预先给定的键组合或者通过声音或视觉信号来进行。
在步骤340中,设置分辨率,使得能够依据所确定的应用示例中的质量参数,借助于查看方向选择Excel表的单个单元格。以加亮的方式表示用户14将其视线指向的单个单元格。替换地,可以将与表示的当前分辨率和眼睛跟踪器的质量参数对应的单元格组加亮。然后,用户看到分辨率不足以视觉地选择单个单元格。如果他激活了根据本发明的分辨率适配,则因此适配分辨率,使得他能够可靠地视觉地选择单元格。
在步骤350中,对通过查看方向选择的相应的单元格进行处理。这包含借助于查看方向选择单元格、激活单元格编辑模式,其中通过按下键盘或者说话激活单元格编辑模式。随后,例如在单元格区域中作为自变量输入公式,以寻址单元格区域的第一单元格。随后,看向相关单元格并且按下键以选择其。随后,看向相关单元格区域的最后一个单元格,并且释放键盘,以完成选择。随后,例如按下“)”键,以终止公式输入。如果该区域的相关的最后一个单元格例如在该操作内的区域中,该区域被验证具有比相关区域的起始单元格低的精度,则自动变焦,以使得能够在该区域中进行单个单元格选择。根据本发明在如下情况下也做该处理,即,当例如由于用户和眼睛跟踪器之间的距离改变在查看方向的测量中噪声分量改变时。替换地,根据本发明的自动缩放的设置可以使得整个可见单元格区域立即、即自动适配分辨率,使得用户总是能够在给定条件下可靠地视觉地选择单元格。
在步骤350中对Excel表的处理期间,相应地连续检查至少一个质量参数并且合适地设置分辨率,特别是使得即使在质量参数劣化的情况下,Excel表的单个单元格也保持可选择。
在步骤360中,检查对Excel表的处理是否终止;如果否,则向后分支到步骤350;如果是,则执行步骤370,其中去激活分辨率控制,和/或去激活查看方向光标,和/或关闭或者以新的工作区域继续应用文件或应用、即Excel。

Claims (18)

1.一种用于操作显示装置(12)的方法,包括以下步骤:
a)捕获用户(14)的头部的至少一部分的图像数据(步骤110);
b)从在步骤a)中捕获的图像数据中确定用户(14)通过移动头部的至少一部分可改变的至少一个参数(步骤120);
c)依据所确定的至少一个参数,控制显示装置(12)上的视觉表示(步骤130);
其特征在于,还包括以下步骤:
d)基于步骤a)中的捕获确定至少一个质量参数(步骤140);
e)依据所述至少一个质量参数,改变所述视觉表示的至少一部分的至少一个分辨率(步骤150)。
2.根据权利要求1所述的方法,
其特征在于,
为了确定所述至少一个质量参数,对在步骤b)中确定的参数的质量和/或幅度和/或图像数据的捕获的质量,和/或为了确定所述至少一个质量参数,对在步骤a)中捕获的图像数据进行分析。
3.根据权利要求1或2所述的方法,
其特征在于,
所述视觉表示包括通过移动头部的至少一部分可移动的至少一个元件,其中,在步骤e)中,依据所述至少一个质量参数,改变至少一个可移动元件的移动速度的分辨率。
4.根据前述权利要求中任一项所述的方法,
其特征在于,
在步骤e)中,依据所述至少一个质量参数,改变整个视觉表示的分辨率。
5.根据权利要求4所述的方法,
其特征在于,
所述视觉表示包括至少一个静态和/或动态元件,其中,在步骤e)中,依据所述至少一个质量参数,改变所述静态和/或动态元件的分辨率。
6.根据权利要求4所述的方法,
其特征在于,
在步骤e)中,改变整个视觉表示的分辨率。
7.根据权利要求4或5所述的方法,
其特征在于,
作为所述视觉表示的一部分,改变以下组中的至少一个元件的分辨率:
-与放大镜功能有关的区域;
-可预先给定的工作窗口的内容;
-鼠标指针;
-光标;
-应用的操作元件;
-由应用表示的数据的内容元件或者区域;
-所述视觉表示产生的应用的逻辑片段。
8.根据前述权利要求中任一项所述的方法,
其特征在于,
为了确定所述至少一个质量参数,确定以下组中的至少一个量:
-在步骤a)中捕获的图像数据的参数,特别是图像中的和/或至少一个所确定的对象的噪声分量、频率分布、强度分布;
-对在步骤a)中捕获的图像数据的评价中的、特别是根据捕获的图像数据计算的中间或结果数据中的参数。
9.根据权利要求8所述的方法,
其特征在于,
为了确定所述至少一个质量参数,针对以下量中的至少一个,对在步骤a)中捕获的图像数据进行分析:
-可预先给定的频率范围内的频率分量,特别是通过空间-时间频率分析和小波;
-可预先给定的图像区域中的对比度值,特别是图像区域中的梯度、边缘、强度、频度/分布;
-可预先给定的参数的幅值;
-结果数据的幅值;
-至少一个可预先给定的对象的存在;和/或
-根据在步骤a)中捕获的图像数据确定的中间或结果数据的改变或加速率。
10.根据前述权利要求中任一项所述的方法,
其特征在于,
根据线性、非线性、连续和/或不连续的特征曲线改变分辨率。
11.根据前述权利要求中任一项所述的方法,
其特征在于,
用户(14)特别是能够通过键命令、语音命令或者手势命令打开和关闭分辨率的改变。
12.根据前述权利要求中任一项所述的方法,
其特征在于,
用户(14)依据或者独立于产生所述视觉表示的应用,存储和再次调用曾经设置的至少一个分辨率,其中,所述存储和调用通过预先调整的交互或者用户可预先给定的交互、特别是通过键命令、语音命令或者手势命令来进行,或者共同存储上下文,并且在出现所述上下文时自动进行存储的分辨率的调用。
13.根据权利要求12所述的方法,
其特征在于,
根据以下参数中的一个或更多个确定所述上下文:
-可预先给定的应用;
-可预先给定的文件;
-应用的可预先给定的视图,特别是工具条、窗口、工具;
-文件的可预先给定的视图,特别是针对可视数据、处理设置、布局、可视结构;
-应用提供的流程中的特定处理步骤。
14.根据前述权利要求中任一项所述的方法,
其特征在于,
-在步骤a)之后、特别是与步骤b)一起或者在步骤b)和步骤c)之间;
-以连续的方式,即在步骤a)之后,进一步以可预先给定的时间间隔和/或依据至少一个可预先给定的事件,优选在超过和/或低于用于图像、中间或结果数据的、特别是根据该数据得到的至少一个质量参数的至少一个可预先给定的阈值时:
确定所述至少一个质量参数。
15.根据前述权利要求中任一项所述的方法,
其特征在于,
根据以下条件中的至少一个进行分辨率的适配:
-每当质量参数获得新的值时连续地;
-如果质量参数超过至少一个可预先给定的阈值;
-如果上下文改变;
-如果用户执行可预先给定的动作,特别是按下可预先给定的键,执行可预先给定的手势和/或传送可预先给定的声音信号。
16.根据前述权利要求中任一项所述的方法,
其特征在于,
作为用户(14)的头部的至少一部分,移动该用户(14)的头部和/或用户(14)的一只和/或两只眼睛。
17.一种计算机程序产品,具有用于计算机设备的程序,所述程序具有程序代码部分,用于当在所述计算机设备上执行所述程序时,执行和/或产生根据前述权利要求中任一项所述的步骤。
18.一种用于操作显示装置(12;12a,12b)的系统,包括:
-捕获设备(15;15a,15b,17),用于捕获用户(14)的头部的至少一部分的图像数据;
-至少一个计算设备(24),被适配为从由所述捕获设备(15;15a,15b,17)捕获的图像数据中确定至少一个参数,该至少一个参数是用户(14)通过移动头部的至少一部分可改变的;
-控制设备(22),用于依据由所述计算设备(24)确定的至少一个参数,控制显示装置(12)上的视觉表示;
其特征在于,
提供至少一个计算设备(24),其被配置为基于在步骤a)中捕获的图像数据,确定至少一个质量参数,其中,所述控制设备(22)还被适配为依据所述至少一个质量参数,改变所述视觉表示的至少一部分的至少一个分辨率。
CN201580016896.5A 2014-03-27 2015-03-27 用于操作显示装置的方法和系统 Active CN106462230B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP14162073.2A EP2924540B1 (de) 2014-03-27 2014-03-27 Verfahren und System zum Betreiben einer Anzeigevorrichtung
EP14162073.2 2014-03-27
PCT/EP2015/056786 WO2015144908A1 (de) 2014-03-27 2015-03-27 Verfahren und system zum betreiben einer anzeigevorrichtung

Publications (2)

Publication Number Publication Date
CN106462230A true CN106462230A (zh) 2017-02-22
CN106462230B CN106462230B (zh) 2019-06-28

Family

ID=50389888

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580016896.5A Active CN106462230B (zh) 2014-03-27 2015-03-27 用于操作显示装置的方法和系统

Country Status (5)

Country Link
US (3) US9811155B2 (zh)
EP (3) EP2924540B1 (zh)
JP (1) JP6203971B2 (zh)
CN (1) CN106462230B (zh)
WO (1) WO2015144908A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2924540B1 (de) * 2014-03-27 2019-04-24 SensoMotoric Instruments Gesellschaft für innovative Sensorik mbH Verfahren und System zum Betreiben einer Anzeigevorrichtung
JP6342038B1 (ja) * 2017-05-26 2018-06-13 株式会社コロプラ 仮想空間を提供するためのプログラム、当該プログラムを実行するための情報処理装置、および仮想空間を提供するための方法
DE102018008553A1 (de) * 2018-10-30 2020-04-30 Psa Automobiles Sa Verfahren zum Betreiben einer Instrumentenanzeige
CN110796997B (zh) * 2019-11-14 2021-12-21 京东方科技集团股份有限公司 一种实现非均匀分辨率显示的方法及装置
US11775060B2 (en) 2021-02-16 2023-10-03 Athena Accessible Technology, Inc. Systems and methods for hands-free scrolling
EP4303716A1 (en) * 2022-07-05 2024-01-10 Continental Automotive Technologies GmbH Method for generating data input, data input system and computer program

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120105486A1 (en) * 2009-04-09 2012-05-03 Dynavox Systems Llc Calibration free, motion tolerent eye-gaze direction detector with contextually aware computer interaction and communication methods

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6636763B1 (en) * 1998-12-10 2003-10-21 Andrew Junker Brain-body actuated system
DE102004027289B4 (de) * 2004-06-04 2006-08-24 Siemens Ag Verfahren und Anordnung zur berührungslosen Navigation in einem Dokument
US8793620B2 (en) * 2011-04-21 2014-07-29 Sony Computer Entertainment Inc. Gaze-assisted computer interface
DE102007025530A1 (de) * 2007-05-31 2008-12-04 Volkswagen Ag Informationsvermittlungsvorrichtung und Verfahren zur Vermittlung von Informationen
US20090110245A1 (en) * 2007-10-30 2009-04-30 Karl Ola Thorn System and method for rendering and selecting a discrete portion of a digital image for manipulation
EP2065795A1 (en) * 2007-11-30 2009-06-03 Koninklijke KPN N.V. Auto zoom display system and method
GB2467898A (en) * 2008-12-04 2010-08-18 Sharp Kk Display with automatic screen parameter adjustment based on the position of a detected viewer
US8482562B2 (en) * 2009-12-03 2013-07-09 International Business Machines Corporation Vision-based computer control
US8982160B2 (en) * 2010-04-16 2015-03-17 Qualcomm, Incorporated Apparatus and methods for dynamically correlating virtual keyboard dimensions to user finger size
US8643680B2 (en) * 2011-04-08 2014-02-04 Amazon Technologies, Inc. Gaze-based content display
GB2490868A (en) * 2011-05-09 2012-11-21 Nds Ltd A method of playing an audio track associated with a document in response to tracking the gaze of a user
CN103765374A (zh) * 2011-09-08 2014-04-30 英特尔公司 交互式屏幕观看
WO2013093040A1 (de) * 2011-12-23 2013-06-27 Sensomotoric Instruments Gmbh Verfahren und system zur darstellung mindestens eines bilds zumindest einer anwendung auf einer anzeigevorrichtung
JP5994328B2 (ja) * 2012-03-29 2016-09-21 ソニー株式会社 情報処理装置、情報処理方法及びコンピュータプログラム
JP5689850B2 (ja) * 2012-05-25 2015-03-25 株式会社ソニー・コンピュータエンタテインメント 映像解析装置、映像解析方法、および注視点表示システム
EP2696259B1 (en) * 2012-08-09 2021-10-13 Tobii AB Fast wake-up in a gaze tracking system
US9864498B2 (en) * 2013-03-13 2018-01-09 Tobii Ab Automatic scrolling based on gaze detection
GB2514603B (en) * 2013-05-30 2020-09-23 Tobii Ab Gaze-controlled user interface with multimodal input
US10089786B2 (en) * 2013-08-19 2018-10-02 Qualcomm Incorporated Automatic customization of graphical user interface for optical see-through head mounted display with user interaction tracking
EP2924540B1 (de) * 2014-03-27 2019-04-24 SensoMotoric Instruments Gesellschaft für innovative Sensorik mbH Verfahren und System zum Betreiben einer Anzeigevorrichtung

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120105486A1 (en) * 2009-04-09 2012-05-03 Dynavox Systems Llc Calibration free, motion tolerent eye-gaze direction detector with contextually aware computer interaction and communication methods

Also Published As

Publication number Publication date
US10444832B2 (en) 2019-10-15
EP3123278A1 (de) 2017-02-01
WO2015144908A1 (de) 2015-10-01
US20170108920A1 (en) 2017-04-20
US20180307307A1 (en) 2018-10-25
US9811155B2 (en) 2017-11-07
EP3553634A1 (de) 2019-10-16
CN106462230B (zh) 2019-06-28
JP2017515210A (ja) 2017-06-08
US10824227B2 (en) 2020-11-03
EP2924540B1 (de) 2019-04-24
EP3123278B1 (de) 2019-06-05
EP2924540A1 (de) 2015-09-30
US20190361520A1 (en) 2019-11-28
JP6203971B2 (ja) 2017-09-27

Similar Documents

Publication Publication Date Title
CN106462230B (zh) 用于操作显示装置的方法和系统
US20210407203A1 (en) Augmented reality experiences using speech and text captions
US20210038069A1 (en) Systems and methods for determining distance from an object
US11954268B2 (en) Augmented reality eyewear 3D painting
EP3285635B1 (en) Systems and methods for determining distance from an object
JP2017526078A5 (zh)
KR20180138300A (ko) 관심 객체에 대한 외부 광원의 속성 정보를 제공하는 방법을 지원하는 전자 장치
US20210341725A1 (en) Image status determining method an apparatus, device, system, and computer storage medium
US20200337554A1 (en) Electronic device and method for determining degree of conjunctival hyperemia by using same
Warburton et al. Measuring motion-to-photon latency for sensorimotor experiments with virtual reality systems
CN106659380A (zh) 校准眼动仪的设备和方法及包括校准设备的眼睛控制装置
CN110568930B (zh) 注视点校准方法及相关设备
US20170108923A1 (en) Historical representation in gaze tracking interface
JP4868360B2 (ja) 興味傾向情報出力装置、興味傾向情報出力方法、及びプログラム
CN116324679A (zh) 上下文相关的眼戴器遥控器
KR101984993B1 (ko) 사용자 맞춤형 시표 제어가 가능한 시야검사기
CN115762772B (zh) 目标对象的情绪特征确定方法、装置、设备及存储介质
KR20190143287A (ko) 홍채와 촬영 장치간 거리 예측 방법 및 이를 수행하기 위한 단말
KR20230112729A (ko) 증강 현실 공간 오디오 경험
CN110275608B (zh) 人眼视线追踪方法
CN112560715A (zh) 操作记录展示方法、装置、电子设备及存储介质
KR102094944B1 (ko) 시선 추적 방법 및 이를 수행하기 위한 단말
CN112433664A (zh) 用于书本阅读过程中的人机交互方法、装置及电子设备
CN106662911A (zh) 在媒体中使用参考帧的注视检测器
CN115857678B (zh) 眼动测试方法、装置、设备及存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: German Pavilion

Applicant after: Sensomotoric Instruments GmbH

Address before: German Pavilion

Applicant before: SENSOMOTORIC INSTR GES FUR INNOVATIVE SENSORIK MBH

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20190606

Address after: American California

Applicant after: Apple Computer, Inc.

Address before: German Pavilion

Applicant before: Sensomotoric Instruments GmbH

GR01 Patent grant
GR01 Patent grant