CN107743219B - 用户手指位置信息的确定方法及装置、投影仪、投影系统 - Google Patents

用户手指位置信息的确定方法及装置、投影仪、投影系统 Download PDF

Info

Publication number
CN107743219B
CN107743219B CN201710889281.4A CN201710889281A CN107743219B CN 107743219 B CN107743219 B CN 107743219B CN 201710889281 A CN201710889281 A CN 201710889281A CN 107743219 B CN107743219 B CN 107743219B
Authority
CN
China
Prior art keywords
depth
user
image
depth image
target area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710889281.4A
Other languages
English (en)
Other versions
CN107743219A (zh
Inventor
陈维亮
董碧峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Goertek Techology Co Ltd
Original Assignee
Goertek Techology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Goertek Techology Co Ltd filed Critical Goertek Techology Co Ltd
Priority to CN201710889281.4A priority Critical patent/CN107743219B/zh
Publication of CN107743219A publication Critical patent/CN107743219A/zh
Application granted granted Critical
Publication of CN107743219B publication Critical patent/CN107743219B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof

Abstract

本发明公开了一种用户手指位置信息的确定方法及装置、投影仪、投影系统,该方法包括:在用户手部与投影模组投放到平面物体上的投影面进行交互的情况下,获取景深模组生成的第一景深图像;将第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值;将计算得到的各区域中所有点代表的距离的平均值分别与预设的深度阈值进行比对,得到比对结果;根据比对结果,从多个区域中确定出包含有用户手部的目标区域;从第一景深图像中,抠除目标区域对应的图像,并将目标区域相邻的至少一个单个区域对应的图像填充到目标区域,生成背景图像;对第一景深图像和背景图像进行处理,得到深度图像,并从深度图像中确定用户手指的位置信息。

Description

用户手指位置信息的确定方法及装置、投影仪、投影系统
技术领域
本发明涉及投影仪技术领域,更具体地,涉及一种用户手指位置信息的确定方法及装置、投影仪、投影系统。
背景技术
投影仪是一种可以将图像或视频投射到幕布上的设备,可以通过不同的接口同计算机、VCD、DVD、游戏机、DV等相连接播放相应的视频信号。目前,交互式投影仪成为发展趋势。
交互式投影仪包括有投影模组和景深模组。投影模组用于将图像或视频投射到平面物体上。景深模组也可在平面物体上形成投影面。景深模组用于测量景深模组的投影面的各投影点到景深模组的距离。当用户手部未与投影模组投放到平面物体上的投影面进行交互时,景深模组根据测量得到的景深模组的投影面上的各投影点到景深模组的距离生成背景图像。当用户手部与投影模组投放到平面物体上的投影面进行交互时,景深模组根据测量得到的景深模组的投影面上的各投影点到景深模组的距离生成实景图像。将用户手部未与投影面进行交互时背景图像中各点对应的距离,与用户手部与投影面进行交互时实景图像中各点对应的距离进行相减,得到深度图像。通过该深度图像可以得到用户手部的信息,例如,用户手部的位置信息,进而可以根据用户手部的信息执行后续的操作。
上述操作中,在得到深度图像之前,需要背景图像和实景图像相匹配,即交互式投影仪必须固定不动。若交互式投影仪有轻微的抖动时,得到的背景图像和实景图像会不匹配,这样使得由背景图像和实景图像得到的深度图像不准确,进而使得利用深度图像得到的用户手部的信息也不准确,最终可能影响用户与交互式投影仪的交互。
发明内容
本发明的一个目的是提供一种用户手指位置信息的确定方法的新技术方案。
根据本发明的第一方面,提供了一种用户手指位置信息的确定方法,包括:
在用户手部与投影模组投放到平面物体上的投影面进行交互的情况下,获取景深模组生成的第一景深图像,其中,所述第一景深图像为利用所述景深模组投放到所述用户手部和所述平面物体上的各投影点到所述景深模组的距离生成的;
将所述第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值;
将计算得到的各区域中所有点代表的距离的平均值分别与预设的深度阈值进行比对,得到比对结果;
根据所述比对结果,从所述多个区域中确定出包含有用户手部的目标区域;
从所述第一景深图像中,抠除所述目标区域对应的图像,并将所述目标区域相邻的至少一个单个区域对应的图像填充到所述目标区域,生成背景图像;
对所述第一景深图像和所述背景图像进行处理,得到深度图像,并从所述深度图像中确定用户手指的位置信息。
可选地,在将所述第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值之前,所述方法还包括:
将所述第一景深图像转化为深度矩阵,其中,所述深度矩阵中的各元素分别对应所述第一景深图像中各点对应的距离;
利用所述深度矩阵,计算生成梯度矩阵,所述梯度矩阵中的元素代表的距离是利用所述深度矩阵中的当前元素与位于同一行的所述当前元素对应的下一个元素的差值,和与位于同一列的所述当前元素对应的下一个元素的差值计算得到;
将所述梯度矩阵转化为第二景深图像;
将所述第二景深图像均匀划分为多个区域,并得到每个区域中位于预设的深度阈值范围的点的个数;
根据每个区域中位于预设的深度阈值范围的点的个数,从所述第二景深图像中确定超过预设的位于深度阈值范围的点的个数阈值对应的待定目标区域。
可选地,利用所述深度矩阵,计算生成梯度矩阵,包括:
基于以下任一计算式计算得到所述梯度矩阵,
Bi,j=|Ai+1,j-Ai,j|+|Ai,j+1-Ai,j|,或者,
其中,Ai,j代表位于所述深度矩阵中第i行、第j列的元素对应的距离值,Ai+1,j代表位于所述深度矩阵中第第i+1行、第j列的元素对应的距离值,Ai,j+1代表位于所述深度矩阵中第i行、第j+1列的元素对应的距离值,Bi,j代表位于所述梯度矩阵中第i行、第j列的元素对应的距离值。
可选地,将所述第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值,包括:
从所述第一景深图像中截取所述待定目标区域对应的图像;
将截取得到的所述待定目标区域对应的图像均匀划分为多个区域,并计算单个区域中所有点代表的距离的平均值。
可选地,根据所述比对结果,从所述多个区域中确定出包含有用户手部的目标区域,包括:
将所有点代表的距离的平均值未超过预设的深度阈值对应的区域确定为所述包含有用户手部的目标区域。
可选地,所述深度图像为所述第一景深图像和所述深度图像记录的对应的各点的距离进行相减处理后得到的图像;
从所述深度图像中确定用户手指的位置信息,包括:
将所述深度图像均匀划分为多个区域,并计算每个区域的饱和率,其中,所述饱和率为单个区域内的位于预设的深度阈值范围内的点数量与所述单个区域内的点的总数量之比;
选取出饱和率超过预设的饱和率阈值的区域,并将饱和率超过预设的饱和率阈值的区域作为包含有用户手指的目标区域;
从所述目标区域中确定用户的手指的位置信息。
根据本发明的第二方面,提供了一种用户手指位置信息的确定装置,包括:
获取模块,用于在用户手部与投影模组投放到平面物体上的投影面进行交互的情况下,获取景深模组生成的第一景深图像,其中,所述第一景深图像为利用所述景深模组投放到所述用户手部和所述平面物体上的各投影点到所述景深模组的距离生成的;
计算模块,用于将所述第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值;
比对模块,用于将计算得到的各区域中所有点代表的距离的平均值分别与预设的深度阈值进行比对,得到比对结果;
目标区域确定模块,用于根据所述比对结果,从所述多个区域中确定出包含有用户手部的目标区域;
抠除和填充模块,用于从所述第一景深图像中,抠除所述目标区域对应的图像,并将所述目标区域相邻的至少一个单个区域对应的图像填充到所述目标区域,生成背景图像。
确定模块,用于对所述第一景深图像和所述背景图像进行处理,得到深度图像,并从所述深度图像中确定用户手指的位置信息
根据本发明的第三方面,提供了一种用户手指位置信息的确定装置,其特征在于,包括存储器和处理器,所述存储器用于存储指令,所述指令用于控制所述处理器进行操作以执行上述任一项所述的用户手指位置信息的确定方法。
根据本发明的第四方面,提供了一种投影仪,其特征在于,包括:投影模组、景深模组和如上述所述的用户手指位置信息的确定装置。
根据本发明的第五方面,提供了一种投影系统,其特征在于,包括:投影仪和终端设备,其中,所述投影仪与所述终端设备建立通信连接,所述投影仪包括投影模组和景深模组,所述终端设备包括如上述所述的用户手指位置信息的确定装置。
本发明提供的用户手指位置信息的确定方法及装置、投影仪、投影系统,实现了用户与投影仪的交互,并且本发明生成的背景图像与第一景深图像相互匹配,进而避免了现有技术中背景图像和实景图像不匹配导致的检测得到的用户手部信息不准确的问题,提升了用户与交互式投影仪的交互体验。
通过以下参照附图对本发明的示例性实施例的详细描述,本发明的其它特征及其优点将会变得清楚。
附图说明
被结合在说明书中并构成说明书的一部分的附图示出了本发明的实施例,并且连同其说明一起用于解释本发明的原理。
图1示出了根据本发明一个实施例的背景图像的生成方法的处理流程图。
图2示出了根据本发明一个实施例的从第一景深图像中抠除目标区域后的图像的示意图。
图3示出了根据本发明一个实施例的生成的背景图像的示意图。
图4示出了根据本发明一个实施例的用户手指位置信息的确定装置的结构示意图。
图5示出了根据本发明一个实施例的用户手指位置信息的确定装置的另一种结构示意图。
图6示出了根据本发明一个实施例的投影系统的结构示意图。
具体实施方式
现在将参照附图来详细描述本发明的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本发明及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
在这里示出和讨论的所有例子中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它例子可以具有不同的值。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本发明的一个实施例提供了一种背景图像的生成方法。图1示出了根据本发明一个实施例的背景图像的生成方法的处理流程图。参见图1,该方法至少包括步骤S101至步骤S106。
步骤S101,在用户手部与投影模组投放到平面物体上的投影面进行交互的情况下,获取景深模组生成的第一景深图像,其中,第一景深图像为利用景深模组投放到用户手部和平面物体上的各投影点到景深模组的距离生成的。
本发明实施例涉及的景深模组和投影模组均为交互式投影仪的组成部件。用户可以与交互式投影仪投放到平面物体上的投影面进行交互,例如,通过用户的手指触碰该投影面,实现用户与投影面的交互。以点菜为例,交互式投影仪可以将菜单对应的图像投放到平面物体上,用户通过触碰投放到平面物体上的菜单,完成点菜操作。需要说明的是,在用户与投影面进行交互时,需要确定用户手指的位置信息,进而利用用户的手指的位置信息执行后续操作。
该交互式投影仪可与终端设备建立连接。终端设备可为台式电脑、笔记本电脑、平板电脑、智能手机、VCD、DVD中任一种。投影模组用于将交互式投影仪外接的终端设备的提供的图像或者视频投放到平面物体上。此处涉及的平面物体可为幕布、墙壁或者桌面任一种。
景深模组通过红外扫描的方式,测量得到景深模组的投影面上的各投影点到景深模组的距离。在用户手部未与投影模组投放到平面物体上的投影面交互时,景深模组的投影面上的各投影点均位于平面物体上。在用户手部与投影模组投放到平面物体上的投影面交互时,景深模组的投影面的各投影点一部分位于平面物体上,一部分位于用户手部上。景深模组对应的投影面大于投影模组投放到平面物体上的投影面,这样能够保证完整地捕获到用户手部与投影模组投放到平面物体上的投影面的交互信息。
景深模组生成的第一景深图像为带有颜色的图像。第一景深图像中各点显示的不同颜色代表景深模组的投影面上的各投影点到景深模组的不同距离。景深模组根据预设的投影点到景深模组的距离值与图像中点的颜色的对应关系,将测量得到的其投影面上的各投影点到景深模组的距离转化为带有相应颜色的点,然后再利用这些带有颜色的点生成第一景深图像。
步骤S102,将第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值。
步骤S103,将计算得到的各区域中所有点代表的距离的平均值分别与预设的深度阈值进行比对,得到比对结果。
在用户手部与投影模组投放到平面物体上的投影面交互时,景深模组的投影面的各投影点一部分位于平面物体上,一部分位于用户手部上。理论上,位于平面物体上的投影点到景深模组的距离大于位于用户手部上的投影点到景深模组的距离,且景深模组的位于平面物体上的各投影点到景深模组的距离基本相同。
本发明实施例中,预设的深度阈值可根据景深模组的位于平面物体上的投影点到景深模组的距离而定。具体地,将景深模组的位于平面物体上的投影点到景深模组的距离减去一个浮动距离量,得到的距离值作为预设的深度阈值。
步骤S104,根据比对结果,从多个区域中确定出包含有用户手部的目标区域。
本发明实施例中,在计算得到各区域中所有点代表的距离的平均值之后,将各区域中所有点代表的距离的平均值分别与预设的深度阈值进行比较。基于上述位于平面物体上的投影点到景深模组的距离大于位于用户手部上的投影点到景深模组的距离的规律,若某一区域中所有点代表的距离的平均值超过预设的深度阈值时,则确定该区域未包含有用户手部的目标区域;若某一区域中所有点代表的距离的平均值未超过预设的深度阈值时,则确定该区域包含有用户手部的目标区域。
步骤S105,从第一景深图像中,抠除目标区域对应的图像,并将目标区域相邻的至少一个单个区域对应的图像填充到目标区域,生成背景图像。
步骤S106,对第一景深图像和背景图像进行处理,得到深度图像,并从深度图像中确定用户手指的位置信息。
具体地,首先,将深度图像均匀划分为多个区域,并计算每个区域的饱和率,其中,饱和率为单个区域内的位于预设的深度阈值范围内的点数量与单个区域内的点的总数量之比。本发明实施例涉及的深度阈值范围可根据用户的手指的厚度而定,优选为0-30mm。然后,根据各个区域的饱和率,从各个区域中选取出饱和率超过预设的饱和率阈值的区域,并将饱和率超过预设的饱和率阈值的区域作为包含有用户手指的目标区域。最后,从目标区域中确定用户的手指的位置信息。
本发明的一个实施例中,在将第一景深图像划分为多个区域,计算单个区域中所有点代表的距离的平均值之前,背景图像的生成方法还包括以下步骤。
步骤S107,将第一景深图像转化为深度矩阵,其中,深度矩阵中的各元素分别对应第一景深图像中各点对应的距离。
例如,第一景深图像包含有i*j个点,则由第一景深图像转化得到的深度矩阵包含有i*j个元素。深度矩阵中第1行、第1列的元素代表第一景深图像中第1行、第1列的点对应的距离值。深度矩阵中其他各元素与第一景深图像中其他各点的对应关系,均按照上述深度矩阵中第1行、第1列的元素与第一景深图像中第1行、第1列的点的对应关系。
步骤S108,利用深度矩阵,计算生成梯度矩阵,梯度矩阵中的元素代表的距离是利用深度矩阵中的当前元素与位于同一行的当前元素对应的下一个元素的差值,和与位于同一列的当前元素对应的下一个元素的差值计算得到。
具体地,基于以下任一计算式,利用深度矩阵,计算得到梯度矩阵,
Bi,j=|Ai+1,j-Ai,j|+|Ai,j+1-Ai,j|,或者,
其中,Ai,j代表位于深度矩阵中第i行、第j列的元素对应的距离值,Ai+1,j代表位于深度矩阵中第i+1行、第j列的元素对应的距离值,Ai,j+1代表位于深度矩阵中第i行、第j+1列的元素对应的距离值,Bi,j代表位于梯度矩阵中第i行、第j列的元素对应的距离值。
需要说明地是,对于第一景深图像中位于最后一行的点和位于最后一列的点,需要进行特殊处理,具体地,可在第一景深图像中最后一行处人为补充上一行点,在第一景深图像中最后一列处人为补充上一列点,进而再利用上述计算式进行计算,得到深度矩阵。
步骤S109,将梯度矩阵转化为第二景深图像。
步骤S110,将第二景深图像均匀划分为多个区域,并得到每个区域中位于预设的深度阈值范围的点的个数。
若深度矩阵中某一元素Ai,j代表的是景深模组的投放到平面物体上的投影点到景深模组的距离,与该元素位于同一行且是该元素对应的下一个元素Ai+1,j也代表的是景深模组的投放到平面物体上的投影点到景深模组的距离,与该元素位于同一列且是该元素对应的下一个元素Ai,j+1也代表的是景深模组的投放到平面物体上的投影点到景深模组的距离时,基于景深模组的位于平面物体上的各投影点到景深模组的距离基本相同的规律,通过上述计算式计算得到梯度矩阵中元素Bi,j的值为0。这样,可以得出,对于梯度矩阵中值为0的元素Bi,j对应的是景深模组的投放到平面物体上的投影点,且位于该投影点右侧的投影点也是景深模组的投放到平面物体上的投影点,以及位于该投影点下方的投影点也是景深模组的投放到平面物体上的投影点。此类投影点并不包含有用户的手部区域,因此,本发明实施例并不需要此类投影点。相应地,预设的深度阈值范围可设为3-200mm,而不是0-200mm。
将第二景深图像均匀划分为多个区域后,以其中一个区域为例,利用预设的深度阈值范围3-200mm,确定该区域内的位于该深度阈值范围3-200mm内的点的数量。
本发明的一个实施例中,在将第二景深图像均匀划分为多个区域之前,对第二景深图像进行二值化处理。图像二值化就是将第二景深图像中各点的灰度值设置为0或255,也就是将第二景深图像呈现出明显的黑白效果。具体地,将第二景深图像中点代表的距离位于预设的深度阈值范围对应的点的灰度值设为255,将深度图像中点代表的距离超过预设的深度阈值范围对应的点的灰度值设为0,得到二值化图像。然后,将二值化图像均匀划分为多个区域,得到单个区域内灰度值为255的点的数量。
步骤S111,根据每个区域中位于预设的深度阈值范围的点的个数,从第二景深图像中确定超过预设的位于深度阈值范围的点的个数阈值对应的待定目标区域。
在某一区域中位于预设的深度阈值范围的点的个数超过预设的位于深度阈值范围的点的个数阈值时,确定该区域为待定目标区域。本发明实施例中,预设的位于深度阈值范围的点的个数阈值可根据实际检测情况而定。
本发明的一个实施例中,在得到待定目标区域之后,上述步骤S102具体为从第一景深图像中截取待定目标区域对应的图像,然后,将截取得到的待定目标区域对应的图像均匀划分为多个区域,并计算单个区域中所有点代表的距离的平均值。
需要说明地是,上述步骤S107至步骤S111的处理,避免了部分噪点的干扰,并且得到的待定目标区域对应的图像相对于第一景深图像变小,可以减少后续计算量。
图2示出了根据本发明一个实施例的从第一景深图像中抠除目标区域后的图像的示意图。图3示出了根据本发明一个实施例的生成的背景图像的示意图。参见图2,图中带有剖面线的区域为目标区域,本发明实施例中,需要将该目标区域从第一景深图像中抠除掉。参见图3,将图2中示出的目标区域相邻的至少一个单个区域对应的图像填充到已被抠除掉的目标区域中,生成背景图像。
基于同一发明构思,本发明提供了一种用户手指位置信息的确定装置。图4示出了根据本发明一个实施例的用户手指位置信息的确定装置的结构示意图。参见图4,该装置至少包括:获取模块410,用于在用户手部与投影模组投放到平面物体上的投影面进行交互的情况下,获取景深模组生成的第一景深图像,其中,所述第一景深图像为利用所述景深模组投放到所述用户手部和所述平面物体上的各投影点到所述景深模组的距离生成的;计算模块420,用于将第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值;比对模块430,用于将计算得到的各区域中所有点代表的距离的平均值分别与预设的深度阈值进行比对,得到比对结果;目标区域确定模块440,用于根据比对结果,从多个区域中确定出包含有用户手部的目标区域;抠除和填充模块450,用于从第一景深图像中,抠除目标区域对应的图像,并将目标区域相邻的至少一个单个区域对应的图像填充到目标区域,生成背景图像;确定模块460,用于对第一景深图像和背景图像进行处理,得到深度图像,并从深度图像中确定用户手指的位置信息。
图5示出了根据本发明一个实施例的用户手指位置信息的确定装置的另一种结构示意图。参见图5,该用户手指位置信息的确定装置至少包括存储器520和处理器510。存储器520用于存储指令,该指令用于控制处理器510进行操作以执行根据上述本发明任一实施例提供的用户手指位置信息的确定方法。
基于同一发明构思,本发明提供了一种投影仪。该投影仪至少包括:投影模组景深模组和上述本发明任一实施例提供的用户手指位置信息的确定装置。
基于同一发明构思,本发明提供了一种投影系统。图6示出了根据本发明一个实施例的投影系统的结构示意图。参见图6,投影系统包括投影仪600和终端设备700。投影仪600与终端设备700建立通信连接。投影仪600包括投影模组610和景深模组620。终端设备700包括上述本发明任一实施例提供的用户手指位置信息的确定装置710。
本发明可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本发明的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本发明操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本发明的各个方面。
这里参照根据本发明实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本发明的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是,通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。
以上已经描述了本发明的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本发明的范围由所附权利要求来限定。

Claims (10)

1.一种用户手指位置信息的确定方法,其特征在于,包括:
在用户手部与投影模组投放到平面物体上的投影面进行交互的情况下,获取景深模组生成的第一景深图像,其中,所述第一景深图像为利用所述景深模组投放到所述用户手部和所述平面物体上的各投影点到所述景深模组的距离生成的;
将所述第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值;
将计算得到的各区域中所有点代表的距离的平均值分别与预设的深度阈值进行比对,得到比对结果;
根据所述比对结果,从所述多个区域中确定出包含有用户手部的目标区域;
从所述第一景深图像中,抠除所述目标区域对应的图像,并将所述目标区域相邻的至少一个单个区域对应的图像填充到所述目标区域,生成背景图像;
对所述第一景深图像和所述背景图像进行处理,得到深度图像,并从所述深度图像中确定用户手指的位置信息。
2.根据权利要求1所述的方法,其特征在于,在将所述第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值之前,所述方法还包括:
将所述第一景深图像转化为深度矩阵,其中,所述深度矩阵中的各元素分别对应所述第一景深图像中各点对应的距离;
利用所述深度矩阵,计算生成梯度矩阵,所述梯度矩阵中的元素代表的距离是利用所述深度矩阵中的当前元素与位于同一行的所述当前元素对应的下一个元素的差值,和与位于同一列的所述当前元素对应的下一个元素的差值计算得到;
将所述梯度矩阵转化为第二景深图像;
将所述第二景深图像均匀划分为多个区域,并得到每个区域中位于预设的深度阈值范围的点的个数;
根据每个区域中位于预设的深度阈值范围的点的个数,从所述第二景深图像中确定超过预设的位于深度阈值范围的点的个数阈值对应的待定目标区域。
3.根据权利要求2所述的方法,其特征在于,利用所述深度矩阵,计算生成梯度矩阵,包括:
基于以下任一计算式计算得到所述梯度矩阵,
Bi,j=|Ai+1,j-Ai,j|+|Ai,j+1-Ai,j|,或者,
其中,Ai,j代表位于所述深度矩阵中第i行、第j列的元素对应的距离值,Ai+1,j代表位于所述深度矩阵中第i+1行、第j列的元素对应的距离值,Ai,j+1代表位于所述深度矩阵中第i行、第j+1列的元素对应的距离值,Bi,j代表位于所述梯度矩阵中第i行、第j列的元素对应的距离值。
4.根据权利要求2所述的方法,其特征在于,将所述第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值,包括:
从所述第一景深图像中截取所述待定目标区域对应的图像;
将截取得到的所述待定目标区域对应的图像均匀划分为多个区域,并计算单个区域中所有点代表的距离的平均值。
5.根据权利要求1所述的方法,其特征在于,根据所述比对结果,从所述多个区域中确定出包含有用户手部的目标区域,包括:
将所有点代表的距离的平均值未超过预设的深度阈值对应的区域确定为所述包含有用户手部的目标区域。
6.根据权利要求1所述的方法,其特征在于,所述深度图像为所述第一景深图像和所述深度图像记录的对应的各点的距离进行相减处理后得到的图像;
从所述深度图像中确定用户手指的位置信息,包括:
将所述深度图像均匀划分为多个区域,并计算每个区域的饱和率,其中,所述饱和率为单个区域内的位于预设的深度阈值范围内的点数量与所述单个区域内的点的总数量之比;
选取出饱和率超过预设的饱和率阈值的区域,并将饱和率超过预设的饱和率阈值的区域作为包含有用户手指的目标区域;
从所述目标区域中确定用户的手指的位置信息。
7.一种用户手指位置信息的确定装置,其特征在于,包括:
获取模块,用于在用户手部与投影模组投放到平面物体上的投影面进行交互的情况下,获取景深模组生成的第一景深图像,其中,所述第一景深图像为利用所述景深模组投放到所述用户手部和所述平面物体上的各投影点到所述景深模组的距离生成的;
计算模块,用于将所述第一景深图像均匀划分为多个区域,计算单个区域中所有点代表的距离的平均值;
比对模块,用于将计算得到的各区域中所有点代表的距离的平均值分别与预设的深度阈值进行比对,得到比对结果;
目标区域确定模块,用于根据所述比对结果,从所述多个区域中确定出包含有用户手部的目标区域;
抠除和填充模块,用于从所述第一景深图像中,抠除所述目标区域对应的图像,并将所述目标区域相邻的至少一个单个区域对应的图像填充到所述目标区域,生成背景图像;
确定模块,用于对所述第一景深图像和所述背景图像进行处理,得到深度图像,并从所述深度图像中确定用户手指的位置信息。
8.一种用户手指位置信息的确定装置,其特征在于,包括存储器和处理器,所述存储器用于存储指令,所述指令用于控制所述处理器进行操作以执行根据权利要求1至6中任一项所述的用户手指位置信息的确定方法。
9.一种投影仪,其特征在于,包括:投影模组、景深模组和如权利要求8所述的用户手指位置信息的确定装置。
10.一种投影系统,其特征在于,包括:投影仪和终端设备,其中,所述投影仪与所述终端设备建立通信连接,所述投影仪包括投影模组和景深模组,所述终端设备包括如权利要求8所述的用户手指位置信息的确定装置。
CN201710889281.4A 2017-09-27 2017-09-27 用户手指位置信息的确定方法及装置、投影仪、投影系统 Active CN107743219B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710889281.4A CN107743219B (zh) 2017-09-27 2017-09-27 用户手指位置信息的确定方法及装置、投影仪、投影系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710889281.4A CN107743219B (zh) 2017-09-27 2017-09-27 用户手指位置信息的确定方法及装置、投影仪、投影系统

Publications (2)

Publication Number Publication Date
CN107743219A CN107743219A (zh) 2018-02-27
CN107743219B true CN107743219B (zh) 2019-04-12

Family

ID=61236277

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710889281.4A Active CN107743219B (zh) 2017-09-27 2017-09-27 用户手指位置信息的确定方法及装置、投影仪、投影系统

Country Status (1)

Country Link
CN (1) CN107743219B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108629813B (zh) * 2018-05-04 2022-03-01 歌尔科技有限公司 一种投影设备高度信息的获取方法、装置
CN109816343A (zh) * 2019-01-04 2019-05-28 平安科技(深圳)有限公司 一种业务分流方法及装置
CN111696145B (zh) * 2019-03-11 2023-11-03 北京地平线机器人技术研发有限公司 深度信息确定方法、深度信息确定装置及电子设备

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9684380B2 (en) * 2009-04-02 2017-06-20 Oblong Industries, Inc. Operating environment with gestural control and multiple client devices, displays, and users
CN102402680B (zh) * 2010-09-13 2014-07-30 株式会社理光 人机交互系统中手部、指示点定位方法和手势确定方法
CN102323859B (zh) * 2011-09-08 2013-07-24 昆山市工业技术研究院有限责任公司 基于手势控制的讲义播放系统及方法
CN102789568B (zh) * 2012-07-13 2015-03-25 浙江捷尚视觉科技股份有限公司 一种基于深度信息的手势识别方法
KR101472455B1 (ko) * 2013-07-18 2014-12-16 전자부품연구원 손동작 기반 사용자 인터페이스장치 및 그 방법
CN103984928B (zh) * 2014-05-20 2017-08-11 桂林电子科技大学 基于景深图像的手指手势识别方法
JP6405836B2 (ja) * 2014-09-26 2018-10-17 セイコーエプソン株式会社 位置検出装置、プロジェクター、及び、位置検出方法
CN107197223A (zh) * 2017-06-15 2017-09-22 北京有初科技有限公司 微型投影设备和投影设备的手势控制方法

Also Published As

Publication number Publication date
CN107743219A (zh) 2018-02-27

Similar Documents

Publication Publication Date Title
CN107743219B (zh) 用户手指位置信息的确定方法及装置、投影仪、投影系统
CN109215080A (zh) 基于深度学习迭代匹配的6d姿态估计网络训练方法及装置
CN108450058A (zh) 实时自动车载相机校准
CN108960090A (zh) 视频图像处理方法及装置、计算机可读介质和电子设备
CN112073748B (zh) 全景视频的处理方法、装置及存储介质
US10660062B1 (en) Indoor positioning
CN108882025B (zh) 视频帧处理方法和装置
CN109189215A (zh) 一种虚拟内容显示方法、装置、vr设备及介质
CN110648363A (zh) 相机姿态确定方法、装置、存储介质及电子设备
CN107798700A (zh) 用户手指位置信息的确定方法及装置、投影仪、投影系统
CN111868738B (zh) 跨设备监控计算机视觉系统
CN108648140A (zh) 图像拼接方法、系统、设备及存储介质
CN109271929B (zh) 检测方法和装置
CN109656363A (zh) 一种用于设置增强交互内容的方法与设备
CN110084873B (zh) 用于渲染三维模型的方法和装置
CN110069125A (zh) 虚拟对象的控制方法和装置
CN109996050A (zh) 投影机器人的控制方法及控制装置
CN107564020A (zh) 一种图像区域确定方法及装置
CN109522812A (zh) 人脸识别方法及装置、电子设备
Scargill et al. Here to stay: Measuring hologram stability in markerless smartphone augmented reality
CN107798675A (zh) 显示图像中拖影的检测方法及装置
US20200059633A1 (en) Method and system for employing depth perception to alter projected images on various surfaces
CN107818584A (zh) 用户手指位置信息的确定方法及装置、投影仪、投影系统
CN110069195B (zh) 图像拖拽变形方法和装置
CN107942692B (zh) 信息显示方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant