CN106031153A - 促进图像处理的基于运动数据的关注强度度量 - Google Patents
促进图像处理的基于运动数据的关注强度度量 Download PDFInfo
- Publication number
- CN106031153A CN106031153A CN201380078796.6A CN201380078796A CN106031153A CN 106031153 A CN106031153 A CN 106031153A CN 201380078796 A CN201380078796 A CN 201380078796A CN 106031153 A CN106031153 A CN 106031153A
- Authority
- CN
- China
- Prior art keywords
- strength metric
- region
- image
- close attention
- interest
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 83
- 230000033001 locomotion Effects 0.000 title claims abstract description 69
- 230000002093 peripheral effect Effects 0.000 claims abstract description 78
- 238000000034 method Methods 0.000 claims abstract description 47
- 238000001429 visible spectrum Methods 0.000 claims description 28
- 238000000605 extraction Methods 0.000 claims description 21
- 230000008859 change Effects 0.000 claims description 19
- 230000002085 persistent effect Effects 0.000 claims description 18
- 238000012913 prioritisation Methods 0.000 claims description 17
- 230000000875 corresponding effect Effects 0.000 description 53
- 238000010586 diagram Methods 0.000 description 30
- 210000001508 eye Anatomy 0.000 description 20
- 238000004891 communication Methods 0.000 description 18
- 230000008569 process Effects 0.000 description 14
- 230000001737 promoting effect Effects 0.000 description 10
- 238000003860 storage Methods 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 8
- 210000003128 head Anatomy 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000008878 coupling Effects 0.000 description 5
- 238000010168 coupling process Methods 0.000 description 5
- 238000005859 coupling reaction Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 238000013500 data storage Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 3
- 238000007405 data analysis Methods 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 3
- 238000007876 drug discovery Methods 0.000 description 3
- 230000001815 facial effect Effects 0.000 description 3
- 230000004886 head movement Effects 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 238000003909 pattern recognition Methods 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 239000002699 waste material Substances 0.000 description 3
- 241000287181 Sturnus vulgaris Species 0.000 description 2
- 210000005252 bulbus oculi Anatomy 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000010422 painting Methods 0.000 description 2
- 238000002203 pretreatment Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 210000000352 storage cell Anatomy 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 239000003990 capacitor Substances 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 239000000411 inducer Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000001259 photo etching Methods 0.000 description 1
- 238000004886 process control Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 241000894007 species Species 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000010408 sweeping Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Ophthalmology & Optometry (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- User Interface Of Digital Computer (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
设备、系统、介质和/或方法可以涉及促进图像处理操作。可以在用户观察图像时标识用户运动日期。可以基于用户运动数据来确定关注强度度量。关注强度度量可以对应于图像中的关注区域。并且,可以调整关注强度度量的性质。可以计及外围区域以确定关注强度度量。可以计及审视模式中的变化以确定关注强度度量。而且,可以向关注区域和/或外围区域赋予颜色。另外,可以基于关注强度度量来形成图。图可以包括审视模式图和热图。关注强度度量可以被用来在图像处理操作中优先级化关注区域和/或外围区域。
Description
背景技术
实施例一般涉及促进图像处理。更特别地,实施例涉及基于用户运动数据来确定关注(focus)强度度量,其中关注强度度量对应于图像中的关注区域并且将被用在图像处理操作中。
图像的特征可以包括图像的感兴趣的部分,诸如拐角、斑点(blob)、边、线、隆起(ridge)等。特征在各种图像操作中可以是重要的。例如,计算机视觉操作可能需要处理(例如,审视(scan))整个图像以提取最大数量的特征,所述最大数量的特征可以被组装成对象用于对象识别。然而,这样的过程可能需要相对大的存储器和/或计算能力。因而,当确定(例如,选择、提取、检测等)在图像处理操作中可能是期望的(例如,有区别的、独立的、突出的、唯一的等)特征时,常规的技术方案可以导致诸如存储器、处理能力、电池等的资源的浪费。
附图说明
通过阅读以下的说明书和所附权利要求书以及通过参考以下的附图,实施例的各种优点将对本领域技术人员变得清楚,在所述附图中:
图1是根据实施例的促进图像处理的示例方法的框图;
图2和图3是根据实施例的促进图像处理的方法的示例的流程图;
图4是根据实施例的逻辑架构的示例的框图;
图5是根据实施例的处理器的示例的框图;以及
图6是根据实施例的系统的示例的框图。
具体实施方式
图1示出了根据实施例的促进图像处理的方法10。在图1的图示的示例中,用户8可能面向设备12。设备12可以包括任何计算设备和/或数据平台,诸如膝上型计算机、个人数据助理(PDA)、无线智能电话、媒体内容播放器、成像设备、移动因特网设备(MID)、任何智能设备、计算机服务器等或它们的任何组合,所述任何智能设备诸如智能电话、智能平板计算机、智能TV。在一个示例中,设备12可以包括相对高性能的移动平台,诸如具有相对高的处理能力的笔记本(例如,Ultrabook®可转换笔记本,在美国和/或其他国家中的Intel公司的注册商标)。
图示的设备12包括显示器14,其可以包括触摸屏显示器、计算设备的集成显示器、旋转显示器、2D(二维)显示器、3D(三维显示器)、独立显示器(例如,投影仪屏幕)等或其组合。图示的设备12还包括图像捕获设备16,其可以包括计算设备的集成照相机、前向照相机、后向照相机、旋转照相机、2D照相机、3D照相机、独立照相机(例如,壁挂式照相机)等或其组合。
在图示的示例中,图像18经由显示器14呈现(render)。图像18可以包括任何数据格式。数据格式可以包括例如文本文档、web页面、音频、电影、静止图像等或其组合。可以从任何位置获得图像18。例如,可以从数据存储器、数据记忆装置、数据服务器等或其组合获得图像18。因而,可以从数据源获得图像18,所述数据源相对于设备12在平台上或脱离平台、在站点上或脱离站点等或其组合。在图示的示例中,图像18包括对象20(例如,人)和对象22(例如,山)。对象20、22可以包括特征,诸如拐角、斑点、边、线、隆起等或其组合。
在图示的示例中,图像捕获设备16在用户8经由显示器14观察图像18时捕获用户运动数据。在一个示例中,图像捕获设备16可以经由视野(field
of view)来定义可观察区域。可观察区域可以例如由整个视野、由视野的一部分等或其组合定义。图像捕获设备16可以被足够接近用户8地充分地操作,和/或可以包括充分高的分辨率能力,以捕获在可观察区域和/或视野中出现的用户运动数据。在一个示例中,设备16可以与运动模块通信和/或集成以标识用户运动数据,所述用户运动数据包括头部跟踪数据、面部跟踪眼睛跟踪数据等或其组合。因而,可以捕获和/或标识相对细微的用户运动数据,诸如例如眼球的运动(例如,向左运动、向右运动、向上/向下运动、旋转运动等)。
设备12可以与关注度量模块通信和/或集成以基于用户运动数据来确定关注强度度量。在一个示例中,关注强度度量可以对应于图像18中的关注区域。关注区域可以与其中用户集中注意力、兴趣、时间等或其组合的图像的区域相关。关注区域可以包括例如图像18处的焦点、图像18处的焦点像素、图像18处的焦点区等或其组合。关注区域可以是相对富有有意义的信息,并且关注度量模块可以利用(leverage)用户8观察图像18的最感兴趣的区域的假设。如下文描述的那样,可以基于关注强度度量来分割诸如图像18的输入图像以最小化在图像处理操作中处理(例如,审视、搜索等)的区域(例如,以最小化用于特征提取的搜索区域、用于图像识别的匹配区域等)。
因而,关注强度度量可以指示在图像18的区域处的用户8的关注的强度。可以以任何形式表示关注强度度量。在一个示例中,关注强度度量可以被表示为相对值,诸如高、中、低,等等。关注强度度量可以被表示为在任何比例上的数值,诸如例如从 0到1。关注强度度量可以被表示为平均数、均值、标准偏差(例如,根据平均值、均值等)等或其组合。关注强度度量可以被表示为大小(例如,区域、周长、圆周、半径、直径等)、颜色(例如,在可见谱中的任何nm范围)等或其组合。
设备12可以与图生成模块通信和/或集成以基于关注强度度量来形成图。图可以经由关注强度度量来定义用户运动数据与图像18之间的关系。在图示的示例中,图可以包括审视模式图24、30和/或热图36。审视模式图24包括具有关注强度度量28a到28f的审视模式26,所述关注强度度量28a到28f可以根据用户8审视图像18的序列连结(join)。例如,关注强度度量28a可以对应于首先查看的图像18中的关注区域,并且关注强度度量28f可以对应于最后查看的图像18中的另一关注区域。应理解,关注强度度量28a到28f可以不被连结但可以包括指示用户8观察图像18的顺序的序列数据。另外,通过大小来表示关注强度度量28a到28f。例如,审视模式图24指示用户8最关注对应于关注强度度量28b和28f的图像18的区域,因为关注强度度量34b和34f的圆周是最大的。关注强度度量28a到28f可以被任意地填充,诸如其中使用相同的颜色,和/或可以被理性地(rationally)填充,如下文描述的那样。
审视模式图30可以包括由相同用户8对图像18的第二审视,可以包括另一用户针对图像18的审视模式,诸如此类或其组合。审视模式图30包括具有关注强度度量34a到34f的审视模式32,所述关注强度度量34a到34f可以根据用户8审视图像18的序列被连结。在图示的示例中,关注强度度量34a可以对应于首先查看的图像18中的关注区域,并且关注强度度量34f可以对应于最后查看的图像18中的另一关注区域。应理解,关注强度度量34a到34f也可以不被连结。另外,通过大小来表示关注强度度量34a到34f。例如,审视模式图30指示用户8最关注对应于关注强度度量34b和34f的图像18的区域,因为关注强度度量34b和34f的圆周是最大的。关注强度度量34a到34f可以被任意地填充,诸如其中使用相同的颜色,和/或可以被理性地填充,如下文描述的那样。
设备12可以与调整模块通信和/或集成以调整关注强度度量的性质。调整可以基于任何标准,诸如在关注区域处的凝视持续时间。关注区域处的凝视持续时间可以基于头部运动数据、面部运动数据、眼睛跟踪数据等或其组合。例如,可以在用户8观察图像18时跟踪用户8的头部、面部、眼睛等的运动以标识关注区域和/或根据用户8凝视关注区域的时间来调整相应的关注强度度量的性质。调整模块可以调整关注强度度量的任何性质。例如,调整模块可以调整关注强度度量的数值、关注强度度量的大小、关注强度度量的颜色等或其组合。在图示的示例中,调整模块使用眼睛跟踪数据基于关注区域处的凝视持续时间来调整关注强度度量28a到28f和34a到34f的大小(例如,圆周)性质。
设备12可以与审视模式模块通信和/或集成以计及审视模式中的变化来确定凝视强度度量。在图示的示例中,针对审视模式图24、30分别生成审视模式26、32以计及由用户8观察图像18的方式引起的审视模式中的改变。应理解,审视模式模块可以在相同审视模式图上生成多个审视模式。审视模式模块还可以将多个审视模式合并成单个审视模式以计及由用户8观察图像18的方式引起的审视模式中变化。在一个示例中,审视模式模块可以计算审视模式的平均数、审视模式的均值等或其组合。例如关注强度度量28f、34f的大小可以被平均,关注强度度量28f、34f的位置可以被平均,关注强度度量28f、34f可以是针对包括关注强度度量28f、34f的合成的关注强度度量的使用的边界,诸如此类或其组合。
在图示的示例中,热图36包括关注强度度量38到46,其可以并入从审视模式图24、30获得的审视模式数据(例如,审视模式图、审视模式、审视模式关注强度度量、审视模式平均数等)。应理解,关注强度度量38到46的组可以被组合,例如以提供单个关注强度区。出于图示的目的,关于关注强度度量38来描述关注强度度量38到46。在图示的示例中,基于在用户8观察图像18时标识的用户运动数据(例如,眼睛跟踪数据)来确定关注强度度量38,其中关注强度度量38对应于关注区域。例如,热图36指示用户8最关注对应于关注强度度量38的强度区48a的图像18的区域,因为相对于对应于关注强度度量40到46的强度区,强度区48a的大小是最大的。
设备12可以与外围区域模块通信和/或集成以计及对应于关注区域的外围区域以确定凝视强度度量。外围区域可以与接近(例如,靠近、环绕等)其中用户集中注意力、兴趣、时间等或其组合的区域的图像的区域相关。外围区域可以包括有意义的信息,其中关注度量模块可以利用用户8观察图像18的最感兴趣的区域的假设并且在不直接集中在外围区域上的情况下自然地包括靠近最感兴趣的区域的外围区域。因而,关注强度度量可以指示在相对于图像18的关注区域的外围区域处的用户8的关注的强度。
在图示的示例中,外围模块可以计及图像18的外围区域,其对应于强度度量38的强度区48b、48c。在一个示例中,外围模块可以计及基于任何标准的外围区域,所述任何标准诸如距关注区域的焦点(例如,中心图像像素、图像区域等)的距离、来自关注区域的焦点的像素的数量、查看的范围(例如,基于到图像的距离、显示器的大小等)等或其组合。例如,外围模块可以使用距强度区48a的外边界的预定距离、距强度区48a的中心的预定距离等或其组合在关注区域周围布置强度区48b、48c。在图示的示例中,外围模块还可以计及关注强度度量38到46的重叠,其中相应的强度区的部分可以被修改(例如,遮蔽)。例如,关注强度度量44包括最内区和中间区,其具有遮蔽的最外区,而关注强度度量38、40、42、46包括三个强度区(例如,最内区、中间强度区和最外强度区),其可以包括基于邻接的关注强度度量的大小的不同程度的修改(例如,遮蔽)。
关注强度度量38可以由颜色、大小等或其组合来表示。因此,强度区48a到48c可以由调整模块调整。在一个示例中,调整模块可以基于包括关注区域处的凝视持续时间的任何标准来调整颜色、大小等。例如,调整模块可以基于用户8在图像18的相应的关注区域处的凝视持续时间、通过向强度区48a分派颜色来将颜色赋予关注区域。分派到强度区48a的颜色可以在可见谱的一部分中。调整模块还可以通过向强度区48b、48c分派相应的颜色来将颜色赋予外围区域。分派到区48b、48c的相应颜色可以在相对于分派到强度区48a的颜色的可见谱的另一部分中。在图示的示例中,调整模块可以经由强度区48a将可见谱的在约620到750 nm范围中的颜色(例如,红色)赋予关注区域。因而,颜色“红色”可以指示用户8凝视相应的关注区域达相对长的时间。
调整模块还可以经由强度区48b将可见谱的在约570到590 nm范围中的颜色(例如,黄色)赋予中间外围区域,和/或经由强度区48c将可见谱的在约380到450 nm范围中的颜色(例如,紫色)赋予最外的外围区域。因而,“紫色”的颜色可以指示用户8没有凝视相应的区域(例如,其是外围区域),但因为其经由强度区48c被赋予颜色,所以相应的区域可以包括感兴趣的信息。替代地,“紫色”的颜色可以指示用户8没有凝视相应的区域(例如,其是外围区域)并且因为即使被赋予颜色也未能满足阈值(例如,约小于450 nm)而可以被忽略,下文详细地描述。应理解,如上文描述的那样,审视模式模块还可以计及针对颜色性质的任何审视模式中的变化以达到针对热图36的包括相应的强度区的强度度量的大小和/或颜色。
图24、30、36和/或其部分,诸如其关注强度度量、其强度区、其审视模式等,可以被转发到图像处理流水线35以在图像处理操作中利用。图像处理流水线可以包括图像处理操作的任何部件和/或阶段,诸如应用、操作系统、中央处理单元(CPU)、图形处理单元(GPU)、视觉处理单元(VPU)等或其组合。图像处理操作可以包括任何操作,诸如计算机视觉、模式识别、机器学习等或其组合。图像处理操作可以被实现在任何上下文中,诸如被实现在医学诊断、文本处理、药物发现、数据分析、笔迹识别、图像跟踪、对象检测和识别、图像编索引和检索等或其组合中。在一个示例中,关注强度度量28a到28f、34a到34f和/或38到46可以被提供到与图像处理流水线35通信和/或集成的图像操作模块(例如,特征提取模块、图像识别模块等)以执行操作(例如,特征提取操作、图像识别操作等)。应理解,关注强度度量28a到28f、34a到34f、38到46可以被单独地提供,或可以经由图24、30、36被提供。
如果关注强度度量满足阈值,则图像处理流水线35可以在图像处理操作中优先级化关注区域和/或外围区域,和/或如果关注强度度量不满足阈值,则图像处理流水线35可以在图像处理操作中忽略关注区域和/或外围区域。可以根据表示关注强度度量的方式来设置阈值。在一个示例中,如果关注强度度量被表示为相对值,诸如高、中和低,则阈值可以包括值“中”。如果关注强度度量被表示为数值,诸如0到1,则阈值可以包括值“.5”。如果关注强度度量被表示为大小,诸如圆周,则阈值可以包括(例如直径、半径等的)预定大小。如果关注强度度量被表示为颜色,诸如可见谱中的任何nm范围,则阈值可以包括预定颜色“红色”。
因而,关于关注强度度量38,可以基于强度区48a到48c来优先级化和/或忽略图像18的关注区域和/或外围区域。在一个示例中,可以相对于与关注强度度量(例如,较小的关注强度度量)相关联的其他区域、相对于不具有任何相应的关注强度度量的区域等或其组合来优先级化对应于强度区48a到48c的关注区域和外围区域。在另一示例中,可以与外围区域对应地来优先级化关注区域。图像处理流水线35可以涉及例如包括特征提取操作的图像处理操作,其中到特征提取操作的输入包括图像18。常规地,特征提取操作可以审视整个图像18来确定和/或选择用于对象识别的特征(例如,定向的边、颜色对立(opponency)、强度对比等)。为了最小化资源的浪费,可以输入图像18与热图36和/或其部分,例如以通过基于强度区48a到48c优先级化和/或忽略图像18的区域来理性地处理(例如,搜索)相对信息丰富的区域。
在一个示例中,强度区48a到48c可以使得特征提取操作优先级化在图像18中待审视的对应于区48a(和/或具有类似的性质的类似区)的区域超过诸如48b、48c的任何外围区、优先级化对应于诸如48b的中间外围区的区域超过对应于诸如48c的最外外围区的区域、优先级化对应于诸如48a到48c的所有强度区的区域超过缺乏相应的强度区的区域,诸如此类或其组合。另外,例如可以实现热图36和/或其部分以使得特征提取操作忽略图像18的区域。例如,强度区48a到48c可以使得特征提取操作忽略不对应于区48a(和/或具有类似性质的类似区)的、不对应于区48a到48c(和/或具有类似性质的类似区)的、缺乏相应的强度区的、诸如此类的或其组合的图像18中的所有区域。特征提取操作然后可以利用从相对信息丰富的区域提取的特征来识别在任何上下文中用于实现的图像中的对象。
在进一步的示例中,图像处理流水线35可以涉及包括图像识别操作的图像处理操作。为了最小化资源的浪费,热图36和/或其部分例如可以被用作到图像识别操作的输入。例如,参考输入(例如,模板输入)和/或样本输入可以包括识别标志(signature),诸如审视模式、关注强度度量(例如,收集、组合等)等或其组合。关于关注强度度量38,识别标志可以包括强度区48a到48c的位置、强度区48a到48c的性质(例如,颜色、大小、形状、强度区号码等)、关注强度度量的缺乏(例如,在图像的部分中,等)等或其组合。可以在参考输入的识别标志与样本输入的识别标志之间确定匹配,其可以提供置信度以被用于识别图像、图像中的对象等或其组合。可以以任何形式来表示置信度,诸如相对值(例如,低、高等)、数值(例如,约0%匹配到100%匹配)等或其组合。
例如可以通过使得图像识别操作在匹配中优先级化对应于区48a(和/或具有类似的性质的类似区)的区域,通过使得图像识别操作在匹配中忽略缺乏相应的强度区的所有区域,诸如此类或其组合来基于阈值优先级化和/或忽略关注区域和/或外围区域,如上文描述的那样。而且,优先级化和/或忽略区域可以相对迅速地消除参考输入的量(例如,使用的模板的数量)。例如,样本输入的识别标志可以相对迅速地消除参考输入,所述参考输入不包括基本上类似的审视模式(例如,基于阈值、性质、位置等)、基本上类似的关注强度度量(例如,基于阈值、性质、位置等)等或其组合。在这点上,可以根据相应的识别标志(例如,基于针对整个图像、针对图像的特定部分等的关注强度度量性质的类似性)来理性地存储和/或获取参考输入。
另外,参考输入的识别标志和/或样本输入的识别标志可以是相对唯一的,其可以使得图像识别操作相对容易地识别图像、图像内的对象等或其组合。例如,图像18的识别标志可以是唯一的并且使得图像识别操作相对容易地识别图像(例如,识别图像是名画)、使得图像识别操作相对容易地获取用于图像(例如,用于名画)的参考输入来经由置信度确定和/或确认图像的身份、使得图像识别操作相对容易地排除参考输入以获取,诸如此类或其组合。
因而,关注区域和/或外围区域可以在例如相应的关注强度度量满足阈值(例如,落入nm范围内等)时被优先级化,和/或可以例如在相应的关注强度度量不满足阈值(例如,落入nm范围的外部等)时被忽略。应理解,尽管可以诸如在搜索优先级化的区域之后审视整个图像18,但处理整个图像以选择、提取和/或检测可以是有区别的、独立的、突出的和/或唯一的特征可能不是需要的。
现在转向图2,方法202被示出以根据实施例促进图像处理。方法202可以被实现为逻辑指令和/或固件的集合,所述逻辑指令和/或固件的集合被存储在机器可读存储介质或计算机可读存储介质,诸如随机访问存储器(RAM)、只读存储器(ROM)、可编程ROM(PROM)、闪存,存储在可配置逻辑中,诸如例如可编程逻辑阵列(PLA)、现场可编程门阵列(FPGA)、复杂可编程逻辑设备(CPLD),存储在使用诸如例如专用集成电路(ASIC)、CMOS或晶体管-晶体管逻辑(TTL)技术的电路技术的固定功能逻辑硬件中,或其任何组合中。例如,可以以一个或多个编程语言的任何组合来编写执行在方法202中示出的操作的计算机程序代码,所述一个或多个编程语言包括诸如C++等的面向对象编程语言以及诸如“C”编程语言或类似的编程语言之类的常规的过程编程语言。而且,可以使用本文中提及的电路技术中的任何电路技术来实现方法220。
图示的处理框250提供在用户观察图像时标识用户运动数据。图像可以包括任何数据格式,诸如文本文档、web页面、视频、电影、静止图像等或其组合。还可以从任何位置获得图像,诸如,可以从数据存储器、数据记忆装置、数据服务器等或其组合获得图像。因此,可以从数据源获得图像,所述数据源相对在平台上或脱离平台、在站点上或脱离站点等或其组合。另外,可以经由设备的显示器来显示图像,所述显示器诸如上文描述的设备12的显示器14。而且,可以由图像捕获设备来捕获运动数据,所述图像捕获设备诸如上文描述的设备12的图像捕获设备16。用户运动数据可以包括例如头部跟踪数据、面部跟踪眼睛跟踪数据等或其组合。因而,相对细微的用户运动数据可以标识例如眼球的运动(例如,向左运动、向右运动、向上/向下运动、旋转等)。
图示的处理框252提供基于用户运动数据来确定关注强度度量,其中关注强度度量对应于图像中的关注区域。关注区域可以与其中用户集中注意力、兴趣、时间等或其组合的图像的区域相关。在一个示例中,关注强度度量可以指示在图像的区域处的用户的关注的强度。关注区域可以包括图像处的焦点、图像处的焦点像素、图像处的焦点区等或其组合。可以以任何形式表示关注强度度量。例如,关注强度度量可以被表示为诸如高、中、低之类的相对值,诸如从 0到1的任何比例上的数值,平均数、均值、标准偏差(例如,根据平均值、均值等),大小(例如,区域、周长、圆周、半径、直径等)、颜色(例如,在可见谱中的任何nm范围),诸如此类或其组合。
图示的处理框254提供调整关注强度度量的性质。调整可以基于任何标准,诸如在关注区域处的凝视持续时间。关注区域处的凝视持续时间可以基于头部运动数据、面部运动数据、眼睛跟踪数据等或其组合。例如,可以在用户观察图像时跟踪用户的头部、面部、眼睛等的运动以标识关注区域和/或基于用户凝视关注区域的时间来调整相应的关注强度度量的性质。另外,可以调整关注强度度量的任何性质,任何性质诸如关注强度度量的数值、关注强度度量的大小、关注强度度量的颜色等或其组合。在一个示例中,使用眼睛跟踪数据基于关注区域处的凝视持续时间来调整关注强度度量的大小(例如,圆周)。在另一示例中,虽然关注强度度量可以被任意地填充,诸如在其中使用相同的颜色,但关注强度度量还可以被理性地填充,诸如在其中(例如,使用眼睛跟踪数据)基于关注区域处的凝视持续时间来调整颜色。
图示的处理框256提供计及对应于关注区域的外围区域以确定关注强度度量。外围区域可以与接近(例如,靠近、环绕等)其中用户集中注意力、兴趣、时间等或其组合的区域的图像的区域相关。在一个示例中,关注强度度量可以指示在相对于图像的关注区域的外围区域处的用户的关注的强度。外围区域可以基于任何标准被计及,所述任何标准诸如距关注区域的焦点(例如,中心图像像素、图像区域等)的距离、来自关注区域的焦点的像素的数量、针对焦点区域的查看的范围(例如,基于到图像的距离、显示器的大小等)等或其组合。在一个示例中,可以在距对应于关注区域的强度区的外边界、距其中心等或其组合的预定距离处的关注区域周围布置对应于外围区域的(关注强度度量)的强度区。
另外,可以将可见谱的一部分中的颜色赋予关注区域并且可以将可见谱的另一部分中的颜色赋予外围区域。在一个示例中,通过将“红色”颜色分派到相应的关注强度度量和/或其强度区,可以将可见谱的在约620到750 nm范围中的颜色赋予关注区域。在另一示例中,通过将“紫色”颜色分派到相应的关注强度度量和/或其强度区,可以将可见谱的在约380到450 nm范围中的颜色赋予最外的外围区域。
图示的处理框258提供计及在审视模式中的变化以确定关注强度度量。在一个示例中,生成了多个审视模式以计及由用户观察图像的方式引起的审视模式中的变化。在另一示例中,可以针对相应的图生成多个审视模式,和/或可以在相同的图上生成多个审视模式以计及在审视模式中的变化。多个审视模式可以被合并成单个审视模式以计及审视模式中的变化。例如,审视模式的平均数可以被计算、审视模式的均值可以被计算、审视模式的标准偏差可以被计算,诸如此类或其组合。因而,例如,关注强度度量的大小可以被平均、关注强度度量的位置可以被平均、关注强度度量可以是针对包括关注强度度量的合成的关注强度度量的使用的边界,诸如此类或其组合。
图示的处理框260提供基于关注强度度量来形成图。图可以经由关注强度度量来定义用户运动数据与图像之间的关系。在一个示例中,图可以包括审视模式图和/或热图。审视模式图可以包括具有根据用户审视图像的序列连结的关注强度度量的审视模式。在另一示例中,审视模式图可以包括没有连结的关注强度度量。热图可以合并从审视模式图获得的审视模式数据(例如,审视模式图、审视模式、审视模式关注强度度量、扫面模式平均数等)。可以组合关注强度度量的组,例如以提供单个关注强度度量。
图示的处理框262将关注强度度量提供到将被利用的图像处理操作。在一个示例中,审视模式图、热图和/或其部分(例如,其关注强度度量、其强度区、其审视模式等)可以被转发到图像处理操作。图像处理操作可以包括任何操作,诸如计算机视觉、模式识别、机器学习等或其组合。图像处理操作可以被实现在任何上下文中,诸如被实现在医学诊断、文本处理、药物发现、数据分析、笔迹识别、图像跟踪、对象检测和识别、图像索引和检索等或其组合中。在一个示例中,关注强度度量可以被提供到特征提取操作和/或图像识别操作。应理解,关注强度度量可以被单独地提供,和/或可以经由图被提供。
如果关注强度度量满足阈值,则可以通过在图像处理操作中优先级化关注区域和/或外围区域来利用关注强度度量,和/或如果关注强度度量不满足阈值,则通过忽略关注区域和/或外围区域来利用关注强度度量。可以根据表示关注强度度量的方式来设置阈值。在一个示例中,如果关注强度度量被表示为诸如高、中和低的相对值,则阈值可以被设置成“中”,如果关注强度度量被表示为诸如0到1的数值,则阈值可以被设置成“.5”,如果关注强度度量被表示为诸如圆周的大小,则阈值可以被设置成(例如直径、半径等的)预定大小,如果关注强度度量被表示为诸如可见谱中的任何nm范围的颜色,则阈值可以被设置成颜色“红色”,诸如此类或其组合。因而,可以基于关注强度度量(例如,强度区)来优先级化和/或忽略图像的关注区域和/或外围区域。
在一个涉及特征提取操作的示例中,可以在预处理步骤中将图像与热图组合以分割图像和/或优先级化将被处理(搜索)的图像的区域。特征提取操作然后可以使用从关注区域和/或外围区域提取的特征来识别图像中的对象。在另一涉及图像识别操作的示例中,可以使用审视模式图和/或热图,将被使用的具有识别标志(例如,审视模式、关注强度度量的集合等)的参考输入(例如,模板输入)来识别具有相应的识别标志(例如,相应的审视模式、关注强度度量的相应集合等)的样本输入。可以在识别标志之间确定匹配,其可以提供置信度来识别图像(例如,其特征、其对象、作为整体的图像等)。
因而,关注区域和/或外围区域可以在相应的关注强度度量满足阈值(例如,落入颜色“红色”的nm范围内等)时被优先级化,和/或可以在相应的关注强度度量不满足阈值(例如,落入颜色“紫色”的nm范围内等)时被忽略。应理解,尽管可以诸如在搜索优先级化的区域之后审视整个图像18,但处理整个图像以选择、提取和/或检测可以是有区别的、独立的、突出的和/或唯一的特征可能不必要。
图3示出了根据实施例的促进图像处理的方法302的流程。可以使用本文中提及的技术中的任何技术来实现方法302。图示的处理框364可以标识用户运动数据。例如,用户运动数据可以包括眼睛跟踪数据。图示的处理框366可以基于用户运动数据来确定关注强度度量。在一个示例中,关注强度度量对应于图像中的关注区域。可以在框368处做出调整关注强度度量的性质的确定。性质可以包括关注强度度量的大小、关注强度度量的颜色、关注强度度量的数值、关注强度度量的相对值等或其组合。如果否,则过程移动到框380和/或移动到框382。如果是,则图示的处理框370调整关注强度度量的大小、颜色等。可以在框372处做出计及外围区域的确定。如果否,则过程移动到框380和/或移动到框382。如果是,则图示的处理框374定义外围区域(例如,关注强度度量的中间区域、最外区域或关注强度度量、外围区域的数值等)和/或相对于关注区域(例如,接近、环绕等)来布置外围区域。
可以在处理框376处做出计及审视模式变化的确定。如果否,则过程移动到框380和/或移动到框382。如果是,则图示的处理框378可以通过提供多个审视模式、生成针对相应的审视模式图的多个审视模式、在相同审视模式上生成多个审视模式、将多个审视模式合并成单个审视模式、诸如此类或其组合来使模式变化平滑。可以在处理框380处做出生成图的确定。在一个示例中,图可以包括审视模式图和/或热图。如果否,则过程移动到框382。框380可以从处理框366、处理框370、处理框374和/或处理框378来接收关注强度度量。因而,应理解,在框380处的来自处理框366的输入可以引起框380处的调整和/或考虑(accounting)的确定。如果在框380处做出生成图的确定,则处理框382经由图将关注强度度量提供到将被利用的图像处理操作。
在图示的示例中,处理框382还可以从处理框366、处理框370、处理框374和/或处理框378接收关注强度度量。如果关注强度度量满足阈值,则图示的处理框384可以在特征提取操作中优先级化至少关注区域,和/或如果关注强度度量不满足阈值,则图示的处理框384可以忽略至少关注。如果关注强度度量满足阈值,则图示的处理框386可以在图像识别操作中优先级化至少关注区域,和/或如果关注强度度量不满足阈值,则图示的处理框386可以忽略至少关注。
现在转向图4,设备402被示出包括根据实施例的促进图像处理的逻辑架构481。逻辑架构481可以被一般地并入到平台中,所述平台诸如膝上型计算机、个人数字助理(PDA)、无线智能电话、媒体播放器、成像设备、移动因特网设备(MID)、任何智能设备、计算机服务器等或其组合,所述任何智能设备诸如智能电话、智能平板计算机、智能TV。逻辑架构481可以被实现在应用、操作系统、媒体框架、硬件部件等或其组合中。逻辑架构481可以被实现在图像处理流水线的任何部件中,所述任何部件诸如网络接口部件、存储器、处理器、硬盘驱动器、操作系统、应用、等或其组合。例如,逻辑架构481可以被实现在处理器中,所述处理器诸如中央处理单元(CPU)、图形处理单元(GPU)、视觉处理单元(VPU)、传感器、操作系统、应用等或其组合。设备402可以包括记忆装置488、应用490、存储器492、图像捕获设备(ICD)494、显示器496、CPU 498等或其组合和/或与它们交互。
在图示的示例中,逻辑架构481包括运动模块483以标识用户运动数据。在一个示例中,用户运动数据可以包括头部跟踪数据、面部跟踪眼睛跟踪数据等或其组合。例如,头部跟踪数据可以包括用户的头部的运动,面部跟踪数据可以包括用户的面部的运动,眼睛跟踪数据可以包括用户的眼睛的运动,诸如此类或其组合。运动可以在任何方向上,诸如向左运动、向右运动、向上/向下运动、旋转运动等或其组合。
另外,图示的逻辑架构481包括关注度量模块485以基于用户运动数据来确定关注强度度量。在一个示例中,关注强度度量对应于图像中的关注区域。关注区域可以与其中用户集中注意力、兴趣、时间等或其组合的图像的区域相关。关注强度度量可以指示在图像的区域处的用户的关注的强度。关注区域可以包括例如图像处的焦点、图像处的焦点像素、图像处的焦点区等或其组合。可以以任何形式表示关注强度度量。例如,关注强度度量可以被表示为诸如高、中、低之类的相对值,诸如从 0到1的任何比例上的数值,平均数、均值、标准偏差(例如,根据平均值、均值等),大小(例如,区域、周长、圆周、半径、直径等)、颜色(例如,在可见谱中的任何nm范围),诸如此类或其组合。
在图示的示例中,关注度量模块485包括调整模块487来调整关注强度度量的性质。调整模块487可以基于任何标准来调整性质,所述任何标准诸如在关注区域处的凝视持续时间。关注区域处的凝视持续时间可以基于头部运动数据、面部运动数据、眼睛跟踪数据等或其组合。另外,调整模块487可以调整关注强度度量的任何性质,关注强度度量的任何性质诸如关注强度度量的数值、关注强度度量的大小、关注强度度量的颜色等或其组合。在一个示例中,调整模块487可以使用眼睛跟踪数据、基于关注区域处的凝视持续时间来调整关注强度度量的大小(例如,圆周)。在另一示例中,调整模块487可以使用相同颜色来任意地填充关注强度度量,和/或可以通过使用基于关注区域处的凝视持续时间(例如,使用眼睛跟踪数据)的颜色来理性地填充关注强度度量。
在图示的示例中,关注度量模块485包括外围区域模块489以计及对应于关注区域的外围区域来确定关注强度度量。外围区域可以与接近(例如,靠近、环绕等)其中用户集中注意力、兴趣、时间等或其组合的区域的图像的区域相关。因此,关注强度度量可以指示在相对于图像的关注区域的外围区域处的用户的关注的强度。在一个示例中,外围区域模块489可以基于任何标准计及外围区域,所述任何标准诸如距关注区域的焦点(例如,中心图像像素、图像区域等)的距离、来自关注区域的焦点的像素的数量、针对焦点区域的查看的范围(例如,基于到图像的距离、显示器的大小等)等或其组合。外围区域模块489可以定义外围区域(例如,外围区域的中间区、最外区、数值等) 和/或可以相对于关注区域(例如,接近、环绕等)来布置外围区域。
因而,可以将可见谱的一部分中的颜色赋予关注区域并且可以将可见谱的另一部分中的颜色赋予外围区域。在一个示例中,通过将“红色”颜色分派到相应的关注强度度量和/或其强度区,可以将可见谱的在约620到750 nm范围中的颜色赋予关注区域。在另一示例中,通过将“紫色”颜色分派到相应的关注强度度量和/或其强度区,可以将可见谱的在约380到450 nm范围中的颜色赋予最外的外围区域。调整模块487可以将颜色赋予关注区域和/或外围区域。
在图示的示例中,关注度量模块485包括审视模式模块491以计及审视模式中的变化来确定关注强度度量。在一个示例中,审视模式模块491生成多个审视模式以计及由用户观察图像的方式引起的审视模式中的变化。在另一示例中,审视模式模块491针对相应的图生成多个审视模式,和/或针对相同的图生成多个审视模式。审视模式模块491可以将多个审视模式合并成单个审视模式。例如,审视模式模块491可以计算审视模式的平均数、可以计算审视模式的均值、可以计算审视模式的标准偏差、可以覆盖(overlay)审视模式,诸如此类或其组合。审视模式模块491可以对关注强度度量的大小取平均、可以对关注强度度量的位置取平均、将关注强度度量用作针对包括关注强度度量的合成的关注强度度量的边界(例如,包括间隔开的、重叠的等的两个关注强度度量之间的区域),诸如此类或其组合,不管是否关注强度度量被连结,不管是否根据查看的顺序被连接,不管是否独立于查看的顺序被连接,诸如此类或其组合。
另外,图示的逻辑架构481包括图生成模块493以基于关注强度度量来形成图。图可以经由关注强度度量来定义用户运动数据与图像之间的关系。在一个示例中,图生成模块493可以形成审视模式图和/或热图。审视模式图可以包括具有例如根据用户审视图像的序列连结的关注强度度量的审视模式。在另一示例中,审视模式图可以包括不被连结的关注强度度量。图生成模块493可以将从审视模式图获得的审视模式数据(例如,审视模式图、审视模式、审视模式关注强度度量、审视模式平均数等)合并到热图中。图生成模块493可以组合关注强度度量的组以例如提供单个关注强度度量。
另外,图示的逻辑架构481包括图像操作模块495以实现涉及图像的操作。图像操作模块495可以实现任何图像处理操作,诸如计算机视觉、模式识别、机器学习等或其组合。图像处理操作可以由图像操作模块495在任何上下文中实现,诸如在医学诊断、文本处理、药物发现、数据分析、笔迹识别、图像跟踪、对象检测和识别、图像编索引和检索等或其组合中实现。在一个示例中,审视模式图、热图和/或其部分(例如,其关注强度度量、其强度区、其审视模式等)可以被转发到图像操作模块495。例如,关注强度度量可以被提供到特征提取操作和/或图像识别操作。
如果关注强度度量满足阈值,则图像操作模块495可以在图像处理操作中优先级化关注区域和/或外围区域,和/或如果关注强度度量不满足阈值,则图像操作模块495可以忽略关注区域和/或外围区域。可以根据表示关注强度度量的方式来设置阈值。在一个涉及特征提取操作的示例中,可以在预处理步骤中将图像与热图组合以分割图像和/或优先级化将由图像操作模块495处理(搜索)的图像的区域。由图像操作模块495实现的特征提取操作然后可以使用从关注区域和/或外围区域提取的特征来识别图像中的对象。在另一涉及图像识别操作的示例中,审视模式图和/或热图可以由图像操作模块495用作具有识别标志(审视模式、关注强度度量的集合等)的参考输入(例如,模板输入)以识别具有相应的识别标志(例如,相应的审视模式、关注强度度量的相应集合等)的样本输入。可以在识别标志之间确定匹配,其可以提供置信度来识别图像(例如,其特征、其对象、作为整体的图像等)。
因而,关注区域和/或外围区域可以在相应的关注强度度量满足阈值(例如,落入颜色“红色”的nm范围内等)时被优先级化,和/或可以在相应的关注强度度量不满足阈值(例如,落入颜色“紫色”的nm范围内等)时被忽略。应理解,尽管可以诸如在搜索优先级化的区域之后审视整个图像18(图1),但处理整个图像以选择、提取和/或检测可以是有区别的、独立的、突出的和/或唯一的特征可能不必要的。
此外,图示的逻辑架构481包括通信模块497。通信模块可以与网络接口通信和/或集成以提供多种通信功能,诸如蜂窝电话(例如,宽带码分多址/W-CDMA(通用移动电信系统/UMTS)、CDMA2000(IS-856/IS2000)等)、WiFi、蓝牙(例如,电气和电子工程师协会/IEEE 802.15.1-2005、无线个域网)、WiMax(例如,IEEE 802.16-2004)、全球定位系统(GPS)、扩频(例如,900 MHz),以及其他射频(RF)电话用途。通信模块497可以传送与促进图像处理相关联的任何数据,包括运动数据、关注强度度量、图、在图像操作中提取的特征、模板输入、样本输入等或其组合。
另外,与促进图像处理相关联的任何数据可以被存储在记忆装置488中、可以经由应用490显示、被存储在存储器492中、经由图像捕获设备494被捕获、被显示在显示器496中和/或经由CPU 498实现。例如,可以使用记忆装置488、应用490、存储器492、图像捕获设备494、显示器496、CPU 498等或其组合来捕获、存储、显示和/或实现运动数据(例如,眼睛跟踪数据等)、关注强度度量(例如,数值、大小、颜色、外围区域、审视模式、图等)、阈值(例如,阈值相对值、阈值数值、阈值颜色、阈值大小等)、图像操作数据(例如,优先级化数据、忽略数据、识别标志数据等)和/或通信数据(例如,通信设置等)。
另外,图示的逻辑架构481包括用户接口模块499。用户接口模块499可以提供任何期望的接口,诸如图形用户接口、命令行接口等或其组合。用户接口模块499可以提供对与促进图像处理相关联的一个或多个设置的访问。设置可以包括选项以定义例如运动跟踪数据(例如,运动数据的类型等)、确定关注强度度量的参数(例如,焦点、焦点像素、焦点区域、性质类型等)、图像捕获设备(例如,选择照相机等)、可观察的区域(例如,视野的部分)、显示器(例如,移动平台等)、调整参数(例如,颜色、大小等)、外围区域参数(例如,距焦点的距离等)、审视模式参数(例如,合并、平均、连结、根据序列连结、使平滑等)、图参数(例如,审视模式图、热图等)、图像操作参数(例如,优先级化、忽略、识别标志数据等)、通信和/或存储参数(例如,存储哪些数据、在何处存储数据、传送哪些数据等)。设置可以包括自动的设置(例如,自动地提供图、调整、外围区域、审视模式平滑化等)、手动的设置(例如,请求用户手动地选择和/或确认调整的实现等)等或其组合。
虽然出于图示目的,示例已经示出单独的模块,但应理解,逻辑架构481的模块中的一个或多个可以被实现在一个或多个组合的模块中,所述组合的模块诸如包括运动模块483、凝视度量模块485、调整模块487、外围区域模块489、审视模式模块491、图生成模块493、图像操作模块495、通信模块497和/或用户接口模块499中的一个或多个的单个模块。另外,应理解,设备402的一个或多个逻辑部件可以在平台上、脱离平台和/或驻留在与设备402相同或不同的真实和/或虚拟空间中。例如,关注度量模块485可以驻留在服务器上的计算云环境中,而逻辑架构481的其他模块中的一个或多个可以驻留在用户物理上所位于的计算平台上,并且反之亦然,或其组合。因而,模块可以是功能上分离的模块、过程和/或线程,可以在相同的计算设备上运行和/或跨多个设备分布以并发地、同时地、并行地和/或顺序地运行,可以被组合到一个或多个独立的逻辑块或可执行文件(executable)中,和/或出于图示的容易被描述为分离的部件。
现在转到图5,示出了根据一个实施例的处理器核200。处理器核200可以是用于任何类型的处理器的核或执行代码来实现本文中描述的技术的其他设备,所述任何类型的处理器诸如微处理器、嵌入式处理器、数字信号处理器(DSP)、网络处理器。尽管在图5中图示了仅一个处理器核200,但处理元件可以替代地包括图5中图示的处理器核200中的不止一个。处理器核200可以是单线程核,或者针对至少一个实施例,处理器核200可以是多线程的,因为其可以包括每核多于一个硬件线程上下文(或“逻辑处理器”)。
图5还图示了被耦合到处理器200的存储器270。存储器270可以是多种存储器(包括存储器分级结构(hierarchy)的各种层)中的任何存储器,如本领域那些技术人员已知或另外可用的那样。存储器270可以包括将由处理器200核执行的一个或多个代码213指令,其中代码213可以实现已经讨论的逻辑架构481(图4)。处理器核200遵循由代码213指示的指令的程序序列。每个指令可以进入前端部分210并且被一个或多个解码器220处理。解码器220可以生成作为它的输出的微操作,诸如预定义格式的固定宽度的微操作,或可以生成其他指令、微指令或反映原始代码指令的控制信号。图示的前端210还包括寄存器重命名逻辑225和调度逻辑230,其一般分派资源并且使对应于用于执行的转换指令的操作排队。
处理器200被示出包括执行逻辑250,所述执行逻辑250具有执行单元255-1到255-N的集合。某些实施例可以包括专用于具体功能或功能的集合的多个执行单元。其他实施例可以包括仅一个执行单元或可以执行特定功能的一个执行单元。图示的执行逻辑250执行由代码指令指定的操作。
在由代码指令指定的操作的执行完成之后,后端逻辑260引退(retire)代码213的指令。在一个实施例中,处理器200允许指令的乱序执行但要求指令的有序引退。引退逻辑265可以采取如为本领域那些技术人员已知的多种形式(例如,重排序缓冲器等)。以该方式,在代码213的执行期间至少在由解码器生成的输出、由寄存器重命名逻辑225利用的硬件寄存器和表以及由执行逻辑250修改的(未示出的)任何寄存器方面变换处理器核200。
尽管未在图5中图示,但处理元件可以包括具有处理器核200的在芯片上的其他元件。例如,处理元件可以包括存储器控制逻辑连同处理器核200。处理元件可以包括I/O控制逻辑和/或可以包括与存储器控制逻辑集成的I/O控制逻辑。处理元件还可以包括一个或多个高速缓存。
图6示出了根据实施例的系统1000的框图。在图6中示出的是多处理器系统1000,其包括第一处理元件1070和第二处理元件1080。虽然示出了两个处理元件1070和1080,但应理解系统1000的实施例还可以包括仅一个这样的处理元件。
系统1000被图示为点到点互连系统,其中第一处理元件1070和第二处理元件1080经由点到点互连1050被耦合。应理解,在图6中图示的互连中的任何或全部可以被实现为多点总线而不是点到点互连。
如图6中示出的那样,处理元件1070和1080中的每个可以是包括第一和第二处理器核(即,处理器核1074a和1074b以及处理器核1084a和1084b)的多核处理器。这样的核1074、1074b、1084a、1084b可以被配置成以与上文结合图5讨论的方式类似的方式执行指令代码。
每个处理元件1070、1080可以包括至少一个共享高速缓存1896。共享高速缓存1896a、1896b可以存储分别由诸如核1074a、1074b和1084a、1084b的处理器的一个或多个部件利用的数据(例如,指令)。例如,共享的高速缓存可以本地缓存存储在存储器1032、1034中的数据,用于由处理器的部件的较快访问。在一个或多个实施例中,共享的高速缓存可以包括一个或多个中级高速缓存,诸如2级(L2)、3级(L3)、4级(L4)或其他级别的高速缓存、末级高速缓存(LLC)和/或其组合。
虽然被示出具有仅两个处理元件1070、1080,但应理解,范围不被如此限制。在其他实施例中,一个或多个附加的处理元件可以存在于给定处理器中。替代地,处理元件1070、1080中的一个或多个可以是元件而不是处理器,诸如加速器或现场可编程门阵列。例如,(一个或多个)附加的处理元件可以包括与第一处理器1070相同的(一个或多个)附加处理器、与处理器第一处理器1070异构或不对称的(一个或多个)附加处理器、加速器(诸如例如图形加速器或数字信号处理(DSP)单元)、现场可编程门阵列或任何其他处理元件。在处理元件1070、1080之间、在包括架构的、微架构的、热的、功率消耗特性等的计量(merit)的度量的谱方面可能存在多种差异。这些差异可以将它们本身有效地表示为处理元件1070、1080之间的不对称和异构。针对至少一个实施例,各种处理元件1070、1080可以驻留在相同的管芯封装中。
第一处理元件1070可以进一步包括存储器控制器逻辑(MC)1072和点到点(P-P)接口1076和1078。类似地,第二处理元件1080可以包括MC 1082以及 P-P接口1086和1088。如图6中示出的那样,MC的1072和1082将处理器耦合到相应的存储器,即存储器1032和存储器1034,其可以是本地附接到相应的处理器的主存储器的部分。虽然MC逻辑1072和1082被图示为被集成到处理元件1070、1080中,但针对替代的实施例MC逻辑可以是在处理元件1070、1080外部的而不是集成在其中的分立逻辑。
第一处理元件1070和第二处理元件1080可以分别经由P-P互连1076、1086和1084被耦合到I/O子系统1090。如图10中示出的那样,I/O子系统1090包括P-P接口1094和1098。更进一步地,I/O子系统1090包括接口1092以将I/O子系统1090与高性能图形引擎1038耦合。在一个实施例中,总线1049可以被用来将图形引擎1038耦合到I/O子系统1090。替代地,点到点互连1039可以使这些部件耦合。
继而,I/O子系统1090可以经由接口1096被耦合到第一总线1016。在一个实施例中,第一总线1016可以是外围部件互连(PCI)总线,或诸如PCI快速(Express)总线或另一第三代I/O互连总线的总线,尽管范围未被如此限制。
如图6中示出的那样,诸如显示器16(图1)和/或显示器496(图4)之类的各种I/O设备1014可以连同总线桥1018被耦合到第一总线1016,所述总线桥1018可以将第一总线1016耦合到第二总线1020。在一个实施例中,第二总线1020可以是低引脚计数(LPC)总线。在一个实施例中,各种设备可以被耦合到第二总线1020,所述各种设备包括例如键盘/鼠标1012、(一个或多个)通信设备1026(其可以继而与计算机网络通信)和数据存储单元1019,所述数据存储单元1019诸如盘驱动器或可以包括代码1030的其他大容量存储设备。代码1030可以包括用于执行上文描述的方法中的一个或多个的实施例的指令。因此,图示的代码1030可以实现已经讨论的逻辑架构481(图4)。进一步地,音频I/O 1024可以被耦合到第二总线1020。
注意到设想了其他实施例。例如,代替图6的点到点架构,系统可以实现多点总线或另一这样的通信拓扑。并且,可以使用比图6中示出的更多或更少的集成芯片来替代地划分图6的元件。
附加记载和示例:
示例可以包括根据本文中描述的实施例和示例的促进图像处理的主题,所述主题诸如方法、用于执行方法的动作的装置、包括指令的至少一个机器可读介质,或者设备或系统,所述指令在由机器执行时使得机器执行方法的动作。
示例1作为一种促进图像处理的设备,包括图像捕获设备以在用户观察图像时捕获用户运动数据,运动模块以标识用户运动数据,以及关注度量模块以基于用户运动数据来确定关注强度度量,其中关注强度度量对应于图像中的关注区域并且将被用在图像处理操作中。
示例2包括示例1的主题并且进一步可选地包括运动模块以标识包括眼睛跟踪数据的用户运动数据。
示例3包括示例1到示例2 中的任何示例的主题并且进一步可选地包括关注强度度量,所述关注强度度量将被提供到特征提取模块和图像识别模块中的一个或多个,并且其中如果关注强度度量满足阈值,则至少关注区域将在图像处理操作中被优先级化,并且如果关注强度度量不满足阈值,则至少关注区域将被忽略。
示例4包括示例1到示例3 中的任何示例的主题并且进一步可选地包括关注度量模块,所述关注度量模块包括基于关注区域处的关注持续时间来调整关注强度度量的性质的调整模块、计及对应于关注区域的外围区域来确定关注强度度量的外围区域模块或计及审视模式中的变化以确定关注强度度量的审视模式模块中的一个或多个。
示例5包括示例1到示例4 中的任何示例的主题并且进一步可选地包括图生成模块以基于关注强度度量来形成图,其中图包括审视模式图和热图中的一个或多个。
示例6是一种促进图像处理的计算机实现方法,包括当用户观察图像时标识用户运动数据并且基于用户运动数据来确定关注强度度量,其中关注强度度量对应于图像中的关注区域并且被用在图像处理操作中。
示例7包括示例6的主题并且进一步可选地包括标识包括眼睛跟踪数据的用户运动数据。
示例8包括示例6到示例7 中的任何示例的主题并且进一步可选地包括基于关注区域处的凝视持续时间来调整关注强度度量的性质。
示例9包括示例6到示例8 中的任何示例的主题并且进一步可选地包括针对关注强度度量调整大小和颜色中的一个或多个。
示例10包括示例6到示例9 中的任何示例的主题并且进一步可选地包括计及对应于关注区域的外围区域以确定关注强度度量。
示例11包括示例6到示例10 中的任何示例的主题并且进一步可选地包括将可见谱的一部分中的颜色赋予关注区域并且将可见谱的另一部分中的颜色赋予外围区域。
示例12包括示例6到示例11 中的任何示例的主题并且进一步可选地包括将可见谱的约620到750 nm范围中的颜色赋予关注区域并且将可见谱的约380到450 nm范围中的颜色赋予最外的外围区域。
示例13包括示例6到示例12 中的任何示例的主题并且进一步可选地包括计及审视模式中的变化以确定关注强度度量。
示例14包括示例6到示例13 中的任何示例的主题并且进一步可选地包括将关注强度度量提供到特征提取操作和图像识别操作中的一个或多个。
示例15包括示例6到示例14 中的任何示例的主题并且进一步可选地包括如果关注强度度量满足阈值,则在图像处理操作中优先级化至少关注区域,并且如果关注强度度量不满足阈值,则忽略至少关注区域。
示例16包括示例6到示例15 中的任何示例的主题并且进一步可选地包括基于关注强度度量来形成图,其中图包括审视模式图和热图中的一个或多个。
示例17是至少一种计算机可读介质,其包括一个或多个指令,所述一个或多个指令当在一个或多个计算设备上执行时使得一个或多个计算设备执行示例6到示例16中的任何示例的方法。
示例18是一种包括用于执行示例6到示例16中的任何示例的方法的装置的设备。
可以使用硬件元件、软件元件或两者的组合来实现各种实施例。硬件元件的示例可以包括处理器、微处理器、电路、电路元件(例如,晶体管、电阻器、电容器、电感器等)、集成电路、专用集成电路(ASIC)、可编程逻辑设备(PLD)、数字信号处理器(DSP)、现场可编程门阵列(FPGA)、逻辑门、寄存器、半导体设备、芯片、微芯片、芯片组等。软件的示例可以包括软件部件、程序、应用、计算机程序、应用程序、系统程序、机器程序、操作系统软件、中间件、固件、软件模块、例程、子例程、函数、方法、过程、软件接口、应用程序接口(API)、指令集、计算代码、计算机代码、代码段、计算机代码段、字、值、符号或其任何组合。确定是否使用硬件元件和/或软件元件来实现实施例可以根据任何数量的因素而变化,所述因素诸如期望的计算速率、功率级别、热耐受性、处理周期预算、输入数据速率、输出数据速率、存储器资源、数据总线速度和其他设计或性能约束。
至少一个实施例的一个或多个方面可以由存储在表示处理器内的各种逻辑的机器可读介质上的有代表性的指令实现,所述指令当由机器读时使得机器制造(fabricate)逻辑来执行本文中描述的技术。被称作“IP核”的这样的表示可以被存储在有形机器可读介质上并且被供应给各种消费者或制造设施以加载到实际上制做逻辑或处理器的制造机器中。
实施例适用于供所有类型的半导体集成电路(“IC”)芯片使用。这些IC芯片的示例包括但不限于处理器、控制器、芯片组部件、可编程逻辑阵列(PLA)、存储器芯片、网络芯片等。另外,在附图中的某些中,利用线来表示信号导线。某些可能是不同的以指示更多的成分(constituent)信号路径,具有数字标签以指示多个成分信号路径,和/或具有在一个或多个端的箭头以指示主要信息流方向。然而,这应该不以限制性的方式被解释。相反,这样的增加的细节可以连同一个或多个示例性实施例使用以促进对电路的较容易的理解。任何被表示的信号线,无论是否具有附加的信息,都可以实际上包括可以在多个方向上传播的一个或多个信号并且可以利用任何合适的类型的信号方案来实现,例如,利用差分对实现的数字或模拟线、光纤线和/或单端线。
示例大小/模型/值/范围可能已经被给出,尽管实施例不限于其。因为制造技术(例如,光刻)随时间成熟,所以期待的是较小大小的设备可以被制造。另外,出于图示和讨论的简单,到IC芯片和其他部件的公知的电源/地连接可能或可能不被示出在图内,并且以便不使实施例的某些方面模糊。进一步地,可以以框图形式示出布置以便避免使实施例模糊并且还考虑以下事实:关于这样的框图布置的实现的细节高度依赖于将在其内实现实施例的平台,即这样的细节应该良好地在本领域技术人员的眼界内。在具体细节(例如,电路)被记载以便描述示例实施例的情况下,可以在不具有这些具体细节或具有这些具体细节的改变的情况下实施实施例对本领域技术人员而言应该是清楚的。描述因此被认为是说明性的而不是限制性的。
可以例如使用机器或有形计算机可读介质或可以存储指令或指令的集合的物品来实现某些实施例,所述指令或指令的集合如果由机器执行则可以使得机器执行根据实施例的方法和/或操作。这样的机器可以包括例如任何合适的处理平台、计算平台、计算设备、处理设备、计算系统、处理系统、计算机、处理器等,或者可以使用硬件和/或软件的任何合适的组合来实现。机器可读介质或物品可以包括例如任何合适类型的存储器单元、存储器设备、存储器物品、存储器介质、存储设备、存储物品、存储介质和/或存储单元,例如存储器、可移除或非可移除介质、可擦除或非可擦除介质、可写或可重写介质、数字或模拟介质、硬盘、软盘、压缩盘只读存储器(CD-ROM)、可记录压缩盘(CD-R)、可重写压缩盘(CD-RW)、光盘、磁介质、磁光介质、可移除存储器卡或盘、各种类型的数字通用盘(DVD)、带、盒式磁带(cassette)等。指令可以包括使用任何合适的高级、低级、面向对象、视觉、编译的和/或解释的编程语言实现的任何合适类型的代码,诸如源代码、被编译的代码、被解释的代码、可执行代码、静态代码、动态代码、被加密的代码等。
除非另外被具体地记载,可以理解的是诸如“处理”、 “估计”、“计算”、“确定”等的术语指计算机或计算系统或类似的电子计算设备的动作和/或过程,所述动作和/或过程操纵被表示为在计算系统的寄存器和/或存储器内的(例如,电子的)物理量的数据和/或将被表示为在计算系统的寄存器和/或存储器内的(例如,电子的)物理量的数据变换成其他数据,所述其他数据被类似地表示为在计算系统的存储器、寄存器或其他这样的信息存储、传输或显示设备内的物理量。实施例不被限制在该上下文中。
术语“耦合”在本文中可以被用来指在讨论中的部件之间的直接或间接的任何类型的关系,并且可以应用于电的、机械的、流体的、光学的、电磁的、电动机械的或其他连接。另外,术语“第一”、“第二”等在本文中可以仅被用来促进讨论,并且不携带特定的时间的或按年代顺序排列的意义,除非另外被指示。另外,应理解,不定冠词“一”或“一个”携带“一个或多个”或“至少一个”的含义。另外,如在本申请中和在权利要求书中使用的那样,通过术语“……中的一个或多个”和“……中的至少一个”结合的项目的列表可以意味着列出的项目的任何组合。例如,短语“A、B或C中的一个或多个”可以意味着A;B;C;A和B;A和C;B和C;或A、B和C。
本领域那些技术人员将根据前述描述理解可以以多种形式来实现实施例的广泛(broad)技术。因此,虽然实施例已经结合其特定示例被描述,但实施例的真实范围应该不被如此限制,因为其他修改在附图、说明书和以下权利要求书的研究时将对有经验的从业者变得清楚。
Claims (25)
1. 一种促进图像处理的设备,包括:
图像捕获设备,用以在用户观察图像时捕获用户运动数据;
运动模块,用以标识用户运动数据;以及
关注度量模块,用以基于用户运动数据来确定关注强度度量,其中关注强度度量对应于图像中的关注区域并且将被用在图像处理操作中。
2. 根据权利要求1所述的设备,其中运动模块将标识包括眼睛跟踪数据的用户运动数据。
3. 根据权利要求1所述的设备,其中关注强度度量将被提供到特征提取模块或图像识别模块中的一个或多个,并且其中如果关注强度度量满足阈值,则至少关注区域将在图像处理操作中被优先级化,并且如果关注强度度量不满足阈值,则至少关注区域将被忽略。
4. 根据权利要求1所述的设备,其中关注度量模块将包括以下一个或多个:
调整模块,用以基于关注区域处的关注持续时间来调整关注强度度量的性质;
外围区域模块,用以计及对应于关注区域的外围区域来确定关注强度度量;或
审视模式模块,用以计及审视模式中的变化以确定关注强度度量。
5. 根据权利要求1到4 中的任一项所述的设备,进一步包括图生成模块以基于关注强度度量来形成图,其中图包括审视模式图和热图中的一个或多个。
6. 一种促进图像处理的计算机实现的方法,包括:
当用户观察图像时标识用户运动数据;以及
基于用户运动数据来确定关注强度度量,其中关注强度度量对应于图像中的关注区域并且被用在图像处理操作中。
7. 根据权利要求6所述的方法,进一步包括标识包括眼睛跟踪数据的用户运动数据。
8. 根据权利要求6所述的方法,进一步包括基于关注区域处的凝视持续时间来调整关注强度度量的性质。
9. 根据权利要求8所述的方法,进一步包括针对关注强度度量调整大小或颜色中的一个或多个。
10. 根据权利要求6所述的方法,进一步包括计及对应于关注区域的外围区域以确定关注强度度量。
11. 根据权利要求10所述的方法,进一步包括将可见谱的一部分中的颜色赋予关注区域并且将可见谱的另一部分中的颜色赋予外围区域。
12. 根据权利要求10所述的方法,进一步包括将可见谱的约620到750 nm范围中的颜色赋予关注区域并且将可见谱的约380到450 nm范围中的颜色赋予最外的外围区域。
13. 根据权利要求6所述的方法,进一步包括计及审视模式中的变化以确定关注强度度量。
14. 根据权利要求6所述的方法,进一步包括将关注强度度量提供到特征提取操作或图像识别操作中的一个或多个。
15. 根据权利要求14所述的方法,进一步包括如果关注强度度量满足阈值,则在图像处理操作中优先级化至少关注区域,并且如果关注强度度量不满足阈值,则忽略至少关注区域。
16. 根据权利要求6到15 中的任一项所述的方法,进一步包括基于关注强度度量来形成图,其中图包括审视模式图或热图中的一个或多个。
17. 至少一种计算机可读介质,其包括一个或多个指令,所述一个或多个指令当在计算设备上执行时使得计算设备:
在用户观察图像时标识用户运动数据;以及
基于用户运动数据来确定关注强度度量,其中关注强度度量对应于图像中的关注区域并且将被用在图像处理操作中。
18. 根据权利要求17所述的至少一个介质,其中当执行一个或多个指令时使得计算设备标识包括眼睛跟踪数据的用户运动数据。
19. 根据权利要求17所述的至少一个介质,其中当执行一个或多个指令时使得计算设备基于关注区域处的凝视持续时间来调整关注强度度量的性质。
20. 根据权利要求17所述的至少一个介质,其中当执行一个或多个指令时使得计算设备计及对应于关注区域的外围区域以确定关注强度度量。
21. 根据权利要求20所述的至少一个介质,其中当执行一个或多个指令时使得计算设备将可见谱的一部分中的颜色赋予关注区域并且将可见谱的另一部分中的颜色赋予外围区域。
22. 根据权利要求17所述的至少一个介质,其中当执行一个或多个指令时使得计算设备计及审视模式中的变化以确定关注强度度量。
23. 根据权利要求17所述的至少一个介质,其中当执行一个或多个指令时使得计算设备将关注强度度量提供到特征提取操作或图像识别操作中的一个或多个。
24. 根据权利要求23所述的至少一个介质,其中当执行一个或多个指令时使得计算设备如果强度度量满足阈值则在图像处理操作中优先级化至少关注区域并且如果强度度量不满足阈值则忽略至少关注区域。
25. 根据权利要求17到24中的任一项所述的至少一个介质,其中当执行一个或多个指令时使得计算设备基于关注强度度量来形成图,其中图包括审视模式图和热图中的一个或多个。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/US2013/059606 WO2015038138A1 (en) | 2013-09-13 | 2013-09-13 | Motion data based focus strength metric to facilitate image processing |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106031153A true CN106031153A (zh) | 2016-10-12 |
Family
ID=52666084
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380078796.6A Pending CN106031153A (zh) | 2013-09-13 | 2013-09-13 | 促进图像处理的基于运动数据的关注强度度量 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20150077325A1 (zh) |
EP (1) | EP3055987A4 (zh) |
CN (1) | CN106031153A (zh) |
WO (1) | WO2015038138A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113255685A (zh) * | 2021-07-13 | 2021-08-13 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、计算机设备以及存储介质 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11127130B1 (en) * | 2019-04-09 | 2021-09-21 | Samsara Inc. | Machine vision system and interactive graphical user interfaces related thereto |
CN112308091B (zh) * | 2020-10-27 | 2024-04-26 | 深圳市你好时代网络有限公司 | 一种多聚焦序列图像的特征提取方法及设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7076118B1 (en) * | 1997-12-05 | 2006-07-11 | Sharp Laboratories Of America, Inc. | Document classification system |
US20090024964A1 (en) * | 2007-07-16 | 2009-01-22 | Raj Gopal Kantamneni | Calculating cognitive efficiency score for navigational interfaces based on eye tracking data |
US20100189354A1 (en) * | 2009-01-28 | 2010-07-29 | Xerox Corporation | Modeling images as sets of weighted features |
US20110310125A1 (en) * | 2010-06-21 | 2011-12-22 | Microsoft Corporation | Compartmentalizing focus area within field of view |
US20120272179A1 (en) * | 2011-04-21 | 2012-10-25 | Sony Computer Entertainment Inc. | Gaze-Assisted Computer Interface |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20090085821A (ko) * | 2008-02-05 | 2009-08-10 | 연세대학교 산학협력단 | 인터페이스 장치와 이를 이용한 게임기 및 컨텐츠 제어방법 |
US8577084B2 (en) * | 2009-01-30 | 2013-11-05 | Microsoft Corporation | Visual target tracking |
US8638985B2 (en) * | 2009-05-01 | 2014-01-28 | Microsoft Corporation | Human body pose estimation |
JP5460691B2 (ja) * | 2009-06-08 | 2014-04-02 | パナソニック株式会社 | 注視対象判定装置及び注視対象判定方法 |
US8100532B2 (en) * | 2009-07-09 | 2012-01-24 | Nike, Inc. | Eye and body movement tracking for testing and/or training |
US8564534B2 (en) * | 2009-10-07 | 2013-10-22 | Microsoft Corporation | Human tracking system |
-
2013
- 2013-09-13 CN CN201380078796.6A patent/CN106031153A/zh active Pending
- 2013-09-13 EP EP13900875.9A patent/EP3055987A4/en not_active Withdrawn
- 2013-09-13 WO PCT/US2013/059606 patent/WO2015038138A1/en active Application Filing
- 2013-09-13 US US14/125,139 patent/US20150077325A1/en not_active Abandoned
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7076118B1 (en) * | 1997-12-05 | 2006-07-11 | Sharp Laboratories Of America, Inc. | Document classification system |
US20090024964A1 (en) * | 2007-07-16 | 2009-01-22 | Raj Gopal Kantamneni | Calculating cognitive efficiency score for navigational interfaces based on eye tracking data |
US20100189354A1 (en) * | 2009-01-28 | 2010-07-29 | Xerox Corporation | Modeling images as sets of weighted features |
EP2230628A3 (en) * | 2009-01-28 | 2011-03-09 | Xerox Corporation | Modeling images as sets of weighted features |
US20110310125A1 (en) * | 2010-06-21 | 2011-12-22 | Microsoft Corporation | Compartmentalizing focus area within field of view |
US20120272179A1 (en) * | 2011-04-21 | 2012-10-25 | Sony Computer Entertainment Inc. | Gaze-Assisted Computer Interface |
Non-Patent Citations (5)
Title |
---|
ANTHONY SANTELLA等: "Gaze-based interaction for semi-automatic photo cropping", 《CONFERENCE PROCEEDINGS/CHI 2006,CONFERENCE ON HUMAN FACTORS IN COMPUTING SYSTEMS:MONTREAL,QUEBEC,CANADA,APRIL 22-27,2006》 * |
M.SADEGHI等: "Hands-free Interactive Image Segmentation Using Eyegaze", 《PROCEEDINGS OF SPIE》 * |
OLEG SPAKOV等: "Visualization of eye gaze data using heat maps", 《MEDICINE TECHNOLOGY》 * |
ROBERTO CALDARA等: "iMap:a novel method for statistical fixation mapping of eye movement data", 《BEHAVIOR RESEARCH METHODS》 * |
TINA WALBER等: "Identifying Objects in Images from Analyzing the Users"Gaze Movements for Provided Tags", 《NETWORK AND PARALLEL COMPUTING》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113255685A (zh) * | 2021-07-13 | 2021-08-13 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、计算机设备以及存储介质 |
CN113255685B (zh) * | 2021-07-13 | 2021-10-01 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、计算机设备以及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US20150077325A1 (en) | 2015-03-19 |
EP3055987A1 (en) | 2016-08-17 |
WO2015038138A1 (en) | 2015-03-19 |
EP3055987A4 (en) | 2017-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10140709B2 (en) | Automatic detection and semantic description of lesions using a convolutional neural network | |
Math et al. | Adaptive machine learning classification for diabetic retinopathy | |
CN107358157A (zh) | 一种人脸活体检测方法、装置以及电子设备 | |
US9691180B2 (en) | Determination of augmented reality information | |
Kim et al. | Objectivity and subjectivity in aesthetic quality assessment of digital photographs | |
US9367731B2 (en) | Depth gradient based tracking | |
Bourzac | Software: The computer will see you now | |
Gu et al. | Improving workflow integration with XPath: design and evaluation of a human-AI diagnosis system in pathology | |
Gupta et al. | SegPC-2021: A challenge & dataset on segmentation of Multiple Myeloma plasma cells from microscopic images | |
US20240112329A1 (en) | Distinguishing a Disease State from a Non-Disease State in an Image | |
Wang et al. | Improved 3D-ResNet sign language recognition algorithm with enhanced hand features | |
Guan et al. | Urban perception: Sensing cities via a deep interactive multi-task learning framework | |
CN106031153A (zh) | 促进图像处理的基于运动数据的关注强度度量 | |
Dong et al. | Multiple spatial residual network for object detection | |
Bafti et al. | A crowdsourcing semi-automatic image segmentation platform for cell biology | |
Purnama et al. | Online data-driven concurrent product-process-supply chain design in the early stage of new product development | |
CN109558505A (zh) | 视觉搜索方法、装置、计算机设备及存储介质 | |
Wang et al. | 3cDe-Net: a cervical cancer cell detection network based on an improved backbone network and multiscale feature fusion | |
Yap et al. | Diabetic foot ulcers segmentation challenge report: Benchmark and analysis | |
WO2022226744A1 (en) | Texture completion | |
CN116052225A (zh) | 掌纹识别方法、电子设备、存储介质及计算机程序产品 | |
EP4196908A1 (en) | Systems and methods for acne counting, localization and visualization | |
Fan et al. | RETRACTED ARTICLE: Dual Siamese Anchor Points Adaptive Tracker with Transformer for RGBT Tracking | |
El Sayed et al. | 3D face detection based on salient features extraction and skin colour detection using data mining | |
Hassan et al. | Selective content removal for egocentric wearable camera in Nutritional Studies |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20161012 |