CN103489216A - 使用摄像机和电视监视器的三维物体扫描 - Google Patents
使用摄像机和电视监视器的三维物体扫描 Download PDFInfo
- Publication number
- CN103489216A CN103489216A CN201310409656.4A CN201310409656A CN103489216A CN 103489216 A CN103489216 A CN 103489216A CN 201310409656 A CN201310409656 A CN 201310409656A CN 103489216 A CN103489216 A CN 103489216A
- Authority
- CN
- China
- Prior art keywords
- lighting pattern
- image
- model
- surface orientation
- physical object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2513—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/30—Polynomial surface description
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Physics (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Mathematical Analysis (AREA)
- Algebra (AREA)
- Optics & Photonics (AREA)
- Image Generation (AREA)
- Processing Or Creating Images (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Abstract
一种使用摄像机和电视监视器的三维物体扫描。本发明涉及根据物体的二维图像建立该物体的三维模型的方法及其装置。按照本发明的建立实物物体的计算机图形模型的方法包括下列步骤:选择第一照明图案;在显示设备上显示所述第一照明图案以便照亮实物物体;获取由所述第一照明图案所照亮的所述实物物体的第一图像,其中,所述第一图像包括具有阴影值的图像点;选择第二照明图案;在显示设备上显示所述第一照明图案以便照亮实物物体;获取由所述第二照明图案所照亮的所述实物物体的第二图像,其中,所述第二图像包括具有阴影值的图像点;确定计算机图形模型的一组模型点中的每个模型点的候选表面方位,所述确定基于所述第一和第二图像的图像点的阴影值。
Description
本申请为题为“使用摄像机和电视监视器的三维物体扫描”的中国发明专利200880013352.3的分案申请。
相关申请的交叉引用
该申请对2007年8月17日提交的题为“3D Object Scanning UsingVideo Camera and TV Monitor”的美国专利申请NO.11/840,813和2007年4月24日提交的题为“3D Object Scanning Using Video Camera and TVMonitor”的美国临时专利申请No.60/913,793主张优先权,以上申请通过引用并入本申请。
发明背景
本发明涉及根据物体的二维图像建立该物体的三维模型的方法及其装置。许多计算机图形图像(computer graphic image)的建立是通过利用一个场景下的三维模型,从给定的视点数学地建模光线的交互。这种过程称之为绘制(rendering),其从给定的视点产生场景的二维图像,并且其类似于拍摄现实世界场景的照片。当场景随着时间流逝逐渐变化时,通过绘制一系列的场景图像,可以建立动画序列。交互式软件应用程序(诸如游戏和其它教育性或娱乐性的应用程序)经常使用绘制软件和硬件以交互帧速率产生计算机图形图像,从而响应用户的输入。
典型地,交互式软件应用程序中的三维模型通过计算机图形艺术家使用复杂的三维草图绘制或者建模应用程序产生。另外,雕刻家可以创作物体的实物(physical)模型,然后通过使用专门的三维扫描仪将其转换为三维计算机图形模型。所有这些技术都需要专门的硬件、软件和受过高度训练的艺术家。由于这种复杂性,包含在交互式软件应用程序中的三维物体通常仅限于那些由软件供应商或者能访问三维模型应用程序的用户所提供的三维物体。
因此,需要一种系统和方法以允许用户建立实物物体(physicalobject)的三维图形模型用于交互式软件应用程序。进一步的需要是在不要求使用建模或者草图绘制应用程序的情况下建立三维计算机图形模型。更进一步的需要是使用成本低、广泛可用的消费电子产品来实现该系统。
发明内容
本发明的一实施例包括一种用于建立实物物体的计算机图形模型的系统。在显示设备上显示的照明图案(Illumination Pattern)随之而来照亮了实物物体。摄像机获取一张或多张被照明图案所照亮的实物物体的图像。照明图案可以包括运动和多样性颜色,从而使摄像机能获取实物物体的表面阴影有较大变化的图像。分析来自所获取实物物体的图像的阴影值以确定该实物物体上点的表面方位。本发明一实施例评估所获取的图像的质量和适合性,并可以使用该评估的结果来进一步选择合适的要被显示的照明图案。照明图案可以针对实物物体的特定的光学、几何和物理属性而设计,以增加系统对不同类型物体的通用性。
在一实施例中,根据由照明图案所产生的实物物体的图像中的每个阴影值,照明模型确定一个或多个候选的表面方位(candidate surfaceorientation)。可选地,每个照明图案的阴影值可以与校准物体上类似的阴影值相互参照(be crossed referenced),校准物体具有已知的几何图形并且被同一照明图案照亮。随着更多的实物物体图像和其它的的照明图案,实物物体模型上的点的候选表面方位组在减少,直至模型表面能拟合于模型点的表面方位。
本发明的实施例可以为任意目的向应用提供实物物体的模型,包括使用户能建立和交换定制的虚拟物体,加强对实物物体的跟踪和视频会议应用。
附图说明
本发明将参考以下附图描述,其中:
图1示出了根据本发明实施例的用于建立实物物体的三维计算机图形模型的系统;
图2A-2B示出了适合于与本发明实施例一起使用的、评估实物物体上的点的表面方位的技术;
图3示出了根据本发明实施例的建立三维计算机图形模型的方法;
图4A-4D示出了适合于与本发明实施例一起使用的照明图案实例;
图5A-5C示出了适合于与本发明实施例一起使用的校准物体实例;
图6示出了适合于实现本发明实施例的计算机系统实例;以及
图7示出了适合于实现本发明实施例的处理器实例。
具体实施方式
图1示出了根据本发明实施例的用于建立实物物体的三维计算机图形模型的系统100。系统100包括计算机设备105,其可以为任何类型的计算设备,包括个人计算机、娱乐用机顶盒(set-top entertainment)、家用或者便携式视频游戏控制台、个人数字助理、或视频会议设备。设备105经有线接口或者无线接口与摄像机110连接。在一实施例中,摄像机110内置于设备105中。在一替代实施例中,摄像机110与设备105分离。摄像机110被配置成获取静止或者移动的图像并传送这些图像到设备105。在一实施例中,摄像机110进一步包括一个或者多个内置光源112,该光源可以有选择地被激活,以提供可见的或者红外照明。相似地,摄像机110可以具有获取由可见光和/或者红外光组成的图像的能力。在一个典型实施例中,摄像机110可以类似于通常应用于因特网上或者其它广域网络上的视频会议的低成本网络摄像头。
除摄像机110之外,系统100还包括显示设备115。显示设备115可以为使用任何类型显示技术的电视或者计算机监视器,包括阴极射线管、LED、LCD、OLED、和/或者等离子显示技术。设备105连接于显示设备115,以使设备105所产生的计算机图形图像和图案由显示设备115显示。
系统100的实施例设置显示设备115,使得由该显示设备115所产生的图像照亮要被扫描的物体120。物体120可以是由用户所选择的任何实物物体。尽管显示设备115不是旨在在屏幕或者任何其它物体上投射图像或者图案的投影仪,但显示设备115在显示图像时,通常有足够的亮度来附带照亮物体。
当物体120被显示设备115所产生的一个或者多个图案所照亮时,摄像头110将获取其图像。正如以下的详细讨论,显示设备115可以输出许多不同的照明图案以建立物体120的准确模型。另外,用户能旋转或者移动物体120至不同的位置和方位,以至于从所有角度建立物体120的完整模型。通过分析这些图像,设备105能建立物体120的三维计算机图形模型。由设备105或者其它设备所执行的交互式软件应用程序随后可以将该三维计算机图形模型结合到它的操作中。
有许多本领域熟知技术来根据一张或多张图像确定物体的结构或者形状。一种常用的技术是根据响应于来自一个或者多个光源的照亮的物体的阴影来确定物体表面上的点的方位。图2A-2B所示为适合与本发明实施例一起使用的、评估实物物体上的点的表面方位的技术。
图2A示意常用的照明模型200,其基于物体表面在一个点上的方位规定该物体上该点的阴影。在照明模型200中,表面207上的点205的阴影是基于表面207上在点205处的法向矢量210和光线矢量215之间的角度,光线矢量215从点205延伸至光源。例如,Phong照明模型基于点积或者矢量210和215之间的角度给点分配漫射阴影值(diffuse shadingvalue)。进一步,照明模型200可以让点205的阴影的一部分基于光线矢量215的反射225和观察矢量220之间的角度,其中,观察矢量220从点205延伸至摄像机或者观察者。例如,Phong照明模型基于点积或者矢量210和215之间的角度的指数值分配镜面阴影值(specular shadingvalue)。
由于表面上点的阴影基于表面的方位,因此可以根据阴影值确定表面的方位。通常,来自单一光源的给定阴影值可以对应于多个可能的表面方位。然而,通过分析来自不同位置的多个光源的图像,表面点的候选方位数量可以通常减少至一个方位。对图像的额外处理以及所得到的提取的表面方位数据(诸如噪音减少和其它滤波、背景抽取、轮廓提取、以及网格(mesh)的产生、复合和简化)然后可以被用于构建物体的三维计算机模型。
图2B示意物体250的图像。通过从不同光源照明物体并分析多个点上的表面的阴影,可以确定物体表面的方位。矢量域包括矢量255a-255t,其定义物体250表面的法向矢量。本发明的实施例拟合表面于矢量域,以定义物体250的计算机图形模型。矢量域255中的矢量数量以示意目的示出,并且本发明实施例可以使用任意数量的矢量的矢量域来定义物体的模型的表面,其仅受限于摄像机的分辨率和应用程序的需求。
这种技术的之前实施方案在相对于物体和摄像机的特定位置上需要专门的光源。通常,这些光源的调整必须考虑(account for)特定物体的独特的拓扑特征、物理特征和光学特征,以建立精确和完整的物体。
相反,本发明的实施例使用显示设备所产生的图像或者图案作为光源来照亮物体。由于显示设备能够产生复杂并且变化的图案(这对于常规光源通常是不可能实现的),所以本发明的实施例可以在不需要用户对光源进行复杂的人工调整的情况下,用于建立多种不同类型物体的模型。
图3示意根据本发明实施例的建立三维计算机图形模型的方法300。可选步骤305校准阴影参数。在一实施例中,步骤305在显示设备上显示一个或者多个照明图案,并测量已知物体的表面上的阴影值以使摄像机获取的阴影值与已知的表面方位值匹配。
步骤310选择用于显示的照明图案。在一实施例中,系统包括多个预先选定的或者算法产生的照明图案可供选择。在又一实施例中,照明图案可以包括动画,以使摄像机在光源相对物体移动时能够获取表面阴影的变化。如以下的详细讨论,每个照明图案可以合适地与任何类型的物体一起使用,或者可以设计为适合(be tailored to)获取具有特殊拓扑的、物理的、和/或者光学的特征的物体的细节。在步骤310的初始迭代时,通常选择通用的照明图案。利用这些照明图案所获取的作为结果的图像以及模型的几何形状可以在随后的迭代步骤310中用于选择更加特定的照明图案。
步骤315显示所选择的照明图案并使用摄像机来获取物体表面阴影的一个或者多个图像。在一实施例中,步骤315使照明图案与空白图案交替显示。涉及两个图案的图像之间差异将消除或者减少周围环境或其它光源对物体表面阴影的影响。
步骤320判断在步骤315所获得的一个或者多个图像中的物体表面的阴影是否适合用于确定模型的几何形状。例如,如果图像全部是或者几乎是空白,那么其可能不适合用来提取物体的表面方位。如果物体不能反射足够来自照明图案的光(例如如果蓝色的照明图案投射于绿色的物体上),那么可产生空白图像。合适性的其它标准可以包括:是否有较多的图像噪音,图像是否清晰并且正确曝光,图像中物体的轮廓是否相似于从之前图像产生的轮廓,关联于物体的图像的一部分是否连续、或者在图像的这部分中是否存在许多空白区域或者间隙,以及阴影是否和其它图像的阴影相一致。
如果步骤315所获取的图像中的物体阴影不适合用于建立物体模型,则方法300从步骤320返回至步骤310以选择不同的照明图案。在一实施例中,步骤310中运用关于哪些照明图案产生合适的或者不合适的物体图像的知识来选择一个合的照明图案,以获取物体的其它图像。例如,如果蓝色的照明图案导致空白图像(其意味着物体很少或者几乎没有反射蓝光),则步骤310的实施例可以将随后选择的照明图案限定在那些包括红色或者绿色光的照明图案。
相反地,如果步骤315所获取的一个或多个图像包括充分品质的物体阴影,方法300将从步骤320执行至步骤325。步骤325运用步骤315所获取的图像中的物体阴影来更新几何形状。在一实施例中,物体的轮廓被确定并且其内部分布大量的网格点。使用一个或者多个交叠或者靠近每个网格点的图像点的阴影值来确定每个网格点的一个或者多个候选表面方位。一个或者多个照明模型可以用于根据阴影值确定候选表面方位。随着来自不同照明图案的其他图像被处理,每个网格点的候选表面方位值的数量在减少。
在一实施例中,通过初始化每个网格点减少每个网格点的候选表面方位值的数量以包括所有可能表面方位。当根据网格点的照明图案确定候选表面方位组时,该表面方位组与网格点的之前候选表面方位的交集(intersection)被确定。然后,该候选表面方位的相交的子集作为网格点的剩余候选表面方位被存储。来自其它的的照明图案的其它候选表面方位与方法300的后续迭代中的网格点剩下的表面方位形成交集。近似和估计技术(诸如平均处理和最小二乘法近似)可以被运用于解决来自摄像机的测量误差。
步骤330判断物体模型几何形状是否完全确定。在一实施例中,如果所有或者大部分的网格点具有单个剩余候选表面方位,那么步骤330判定物体模型的几何形状是充分完整的。在又一实施例中,任何其它网格点的表面方位可以通过插值确定。一旦网格点的表面方位已经被确定,则拟合表面方位的模型表面被定义。模型表面可以使用三角形、多边形、诸如NURBS的高次曲面(higher-order curved surface)、细分表面、粒子系统(particle system)、或者本领域所熟知的任何其它的物体几何形状的数学表示来定义。
在一个实施例中,判断网格点的至少实质部分的每个是否与单一候选表面方位相关联。随后,响应于网格点的至少实质部分的每个与单一候选表面方位相关联的判定,定义适于网格点的实质部分的候选表面方位的所述计算机图形模型的表面。
如果几何形状被完全确定,那么方法300执行到步骤335以输出目标模型。否则,方法300返回至步骤310以选择其它的照明图案。在一实施例中,由步骤310后继迭代所选择的照明图案由网格点剩下的候选表面方位的数量和类型至少部分地确定。
例如,如果物体的一部分表面可能凸起或者凹陷(基于该表面点的候选表面方位),则步骤310的实施例可以选择照明图案,该照明图案被设计为辨认凸起和凹陷的几何形状。例如,如果物体的凸起部分是从下方照亮,则该部分的底部将比该部分的顶部更亮。相反地,如果物体的凹陷部分是从下方照亮,那么,该部分的顶部将比该部分的底部更亮。
在又一实施例中,可以指导用户将物体旋转至新的位置,并重复步骤310-330以确定摄像机之前所不能看到的物体的其它部分的几何形状。该几何形状可以结合从物体之前的方位所辩识的物体几何形状以从所有角度建立完整的和闭合的物体模型。或者,从一个或多个方位所确定的物体几何形状可以结合预先定义的物体几何形状以建立闭合的物体。例如,方法300可以用来确定用户脸部的几何形状。该几何形状可以结合预先定义的头部模型。在再一实施例中,还根据物体图像建立结构图(texture map)或者其它表面阴影信息。在一实施例中,建立方式为选择其中一个图像或者多个图像的组合,消除背景,并且然后投影图像至模型表面以确定结构的坐标。
本发明的实施例可以使用广泛多样的不同类型的照明图案以确定物体表面上的点的方位。通常,照明图案被设计成从物体一个或者多个方向投射光线至物体表面。图4A-4D示出了适合于与本发明实施例一起使用的照明图案实例。
图4A示意照明图案400实例。照明图案400包括图案左上角的红光区域405、图案右上角的绿光区域410、和图案底端中部的蓝光区域415。照明图案400适合与彩色摄像机一起使用。由于典型的彩色摄像机能同时地获取图像中的红、绿、蓝光,照明图案400使摄像机可以在单个图像的不同位置获取来自三种不同光源的物体的阴影。在该实例中,图像中所有的红光(即每个像素的红色分量)来源于区域405,图像中所有的绿光(即每个像素的绿色分量)来源于区域410,并且图像中所有的蓝光(即每个像素的蓝色分量)来源于区域415。
照明图案400实例假设物体表面对所有颜色的光的反射大约相等。每个颜色分量的阴影值的比例化(scaling)或者归一化可以被用于补偿以不同的量反射光的不同颜色的物体表面。在又一实例中,图4B示意第二种照明图案420。除了颜色区域的位置被交换外,照明图案420与图案400相似。在照明图案420中,红色区域430位于右上角,绿色区域435位于底端中部,蓝色区域位于左上角。通过分别对比来自区域405和425的物体阴影、来自区域410和430的物体阴影、来自区域415和435的物体阴影,本发明实施例可以补偿物体对不同颜色的反射特性。例如,来自区域405和区域425的阴影值之比正比于红色光和蓝色光之间的物体表面反射差的比率。
除使用颜色之外,照明图案可以利用运动(诸如平移和旋转)来观察物体表面阴影的变化以响应于光源的移动。图4C示意包括在第一位置和方位的照明三角形445的照明图案440实例。图4D示意包括在不同位置和方位的相似三角形465的照明图案460实例。通过获取当三角形在不同位置和方位之间移动时的物体阴影的图像,就有可能辨认物体表面上的点的方位。
如上所述,表面光反射的阴影或者照明模型可以被用于基于来自光源的点的阴影值确定点的候选表面方位。在又一实施例中,具有已知表面方位的校准物体可以被用来改进表面方位分析的精确度。在一实施例中,系统用一个或多个照明图案照亮校准物体。通过摄像机获取在多个表面点上的校准物体的表面阴影。因为准物体具有已知的几何形状,所以每个表面点的方位也是已知的。这样,对于每个照明图案,系统存储使每个阴影值与一个或者多个候选表面方位相关联的数据结构。当以同样的照明图案分析未知物体时,表面点的阴影值可以用来从该数据结构中查找出一组候选表面方位。
图5A-5C示出了适合于与本发明实施例一起使用的校准物体实例。图5A示意由第一照明图案500照亮的校准物体实例。在该实例中,校准物体是球形的。如果第一照明图案以迎面方向照亮校准物体,则区域505将具有大致相同的阴影值。由于校准物体的几何形状是已知的,所以区域505将与一组包括表面法向矢量510a-510h的候选表面方位组510相关联。当用同样的照明图案分析未知物体时,其阴影值相似于区域505的阴影值的任何表面点将被分配以候选表面方位组的部分或全部方位。对于第一照明图案,可以为具有其它阴影值的校准物体表面的其它区域进行相似的分析。
图5B示意由第二照明图案520照亮的同一实例校准物体。在该实例中,第二照明图案520从侧面照亮校准物体。校准物体表面的区域525将具有大致相同的阴影值。由于校准物体的几何形状是已知的,区域525将与一组包括表面法向矢量530a-530h的候选表面方位组530相关联。当用同样的照明图案分析未知物体时,其阴影值相似于区域525的阴影值的任何表面点将被分配以候选表面方位组530的部分或者全部方位。对于第二照明图案,可以为具有其它阴影值的校准物体表面的其它区域进行相似的分析。
作为特定校准物体的另一个选择,本发明的实施例可以使用用户的脸部特征作为校准物体。图5C示意由照明图案照亮的用户脸部实例550。某一用户脸部特征可具有已知的几何形状。例如,鼻尖560、额头555和眼睛565都大致为球形。该发明的实施例可以使用所有或者任一脸部特征上的照明图案的阴影,使阴影值与候选表面方位相关联。
使用本发明实施例所建立的物体模型可以以多种方式结合于交互式软件应用程序中。例如,用户所喜爱的物体模型可以用来装饰用户的虚拟空间,或者作为电子礼物给其它用户。用户可以把他们的脸加到游戏中的角色上。使用本来领域所熟知的任何绘制(rendering)技术(包括多边形光栅化(polygon rasterization)和射线跟踪绘制(ray tracing rendering)技术),物体模型能被绘制和显示给用户。
在又一实例中,本发明的实施例在视频会议应用中可以纠正摄像机的位置。通常,视频会议的用户更多是看视频屏幕而不是摄像机。由于在视频会议应用中摄像机通常置于屏幕的旁边或者上面,所以在视频会议中用户难以通过眼睛交流。该发明的实施例使用以上所描述的技术建立用户的头部模型。该模型被用于确定摄像机相对于用户的头部的位置。基于这些信息,本发明实施例的应用程序可以将获取的视频映射为模型上的结构,并且然后绘制用户的头部模型,头部模型从迎面方向被获取的视频结构覆盖。这样模拟了用户直接看着摄像机的效果。
在再一实施例中,系统使用从显示设备投射的照明图案以建立物体的初始高分辨率模型。然后,系统可以使用来自显示设备的部分的可见照明图案、或者从与该摄像机或另一摄像机关联的光源所投射的可见或红外照明图案,以获取物体的低分辨率模型。低分辨率模型可被应用程序用于追踪物体的位置或者方位的改变,或者用于获取物体形状的持续变化,例如,用户脸部的表情变化。这些变化可用来修改物体模型的高分辨率版本的位置或者形状。来自低分辨率模型的信息可用来作为应用程序的输入,例如让游戏中角色的脸部表情真实反映用户的脸部表情、或者让应用程序中的虚拟物体跟随用户的实物物体的运动。
图6示出了适合于用于实现本发明实施例的计算机系统1000实例。图6是适合于实现本发明实施例的计算机系统1000的方块图,该计算机系统例如是个人计算机、视频游戏控制台、个人数字助理或者其它数字设备。计算机系统1000包括中央处理器(CPU)1005,其用于运行软件应用程序,执行逻辑功能,和可选的操作系统。CPU1005可以包括一个或者多个处理核。内存1010存储CPU1005所使用的应用程序和数据。存储器1015为应用程序和数据提供非易失性存储,并且其可以包括固定盘驱动器(fixed disk drives)、移动盘驱动器(removable disk drives)、闪存、CD-ROM、DVD-ROM、蓝光光盘、HD-DVD或者其它光学存储装置。用户输入设备1020将来自一个或多个用户的输入传输至计算机系统1000,用户输入设备1020的例子可包括键盘、鼠标、操纵杆、触控板(touchpad)、触摸屏,静态或者动态摄像机和/或麦克风。网络接口1025允许计算机系统1000经由电子通信网络与其它计算机系统通信,并且可以包括在局域网和例如英特网之类的广域网上的有线或者无线通信。音频处理器1055用于根据CPU1005、内存1010和/或存储器1015提供的指令和/或数据产生模拟的或者数字的音频输出。计算机系统1000的组件包括CPU1005、内存1010、数据存储器1015、用户输入设备1020、网络接口1025和音频处理器1055,这些组件经由一条或多条数据总线1060连接在一起。在又一实施例中,静态或者摄像机1065与数据总线1060连接。摄像机1065可以经由例如USB或火线(Firewire)接口的外部接口、无线接口或者内部接口与数据线1065连接。
图形子系统1030与数据总线1060和计算机系统1000的组件进一步连接。图形子系统1030包括图形处理单元(GPU)1035和图形存储器1040。图形存储器1040包括用于存储输出图像的每个像素的像素数据的显存(例如,帧缓冲器)。图形存储器1040可以集成在相同的装置内作为GPU1035,也可以作为单独的器件连接于GPU1035,和/或在内存1010中实现。可以直接从CPU10005向图形存储器1040提供像素数据。或者,CPU1005提供定义所需输出图像的数据和/或指令给GPU1035,GPU1035据此产生一个或多个输出图像的像素数据。定义所需输出图像的数据和/或指令可以存储在内存1010和/或图形存储器1040中。在一实施例中,GPU1035包括根据指令和数据为输出图像产生像素数据的3D绘制能力,其中指令和数据定义几何形状、照明(lighting)、阴影、结构、运动和/或场景的摄像机参数。GPU1035进一步可包括一个或多个能执行阴影化程序(shader programs)的可编程执行单元。
图形子系统1030从图像存储器1040中周期性地输出图像的像素数据,以将这些像素数据显示于显示设备1050上。显示设备1050是任何能够响应于计算机系统1000信号而显示视觉信息的设备,其包括CRT、LCD、等离子显示器、OLED显示器。计算机系统1000能给显示设备1050提供模拟或者数字信号。
在本发明的实施例中,CPU1005是一个或多个具有一个或多个处理核的通用微处理器。本发明的其它实施例可使用下列一个或者多个CPU实现,该CPU具有特别适合于高度并行和高计算强度的应用(例如媒体和交互娱乐应用)的微处理器架构。图7示出了适合于实现本发明实施例的处理器2000实例。
处理器2000包括多个处理器单元,每个能够并行执行独立的程序。处理器2000包括PPE处理器单元2005。PPE处理器单元是CISC、RISC或者本领域所熟知的其它处理器架构的通用处理器。在一实例中,PPE处理器单元2005是64位、多线程RISC架构的处理器,例如,PowerPC架构。PPE处理器单元2005可以包括分为一级、二级或者更多级的缓存(cache memory)2007,其暂时存储由PPE处理器单元2005所执行的数据和指令。
作为附加性能,处理器2000包括多个SPE处理器单元2010。在该实例中,处理器2000包括8个SPE处理器单元2010A-2010H;然而,其它实例的处理器可以包括不同个数的SPE处理器单元。SPE处理器单元2010适用于数据的流处理。在流处理中,程序在大的数据组中的每一项上被重复地执行。为促进数据流处理,SPE处理器单元2010可以包括指令执行单元,其能够同时对多个数据操作数执行SIMD指令。SPE处理器单元2010也可包括指令单元,其能够执行用于更通常的处理任务的单指令、单数据(SISD)。
每个SPE处理器单元(例如SPE处理器单元2010A)包括本地数据和指令存储器2012A。数据和指令可以经由DMA单元2014A传送至和传送出本地数据指令存储器2012A。DMA单元(例如2014A单元)能够在没有处理器监督的情况下从每个SPE处理器单元2010传送出和传送进数据,从而使SPE处理器单元2010能够不中断地持续地处理数据。
数据和指令由处理器2000经由内存和I/O接口2015进行输入和输出。数据和指令可以经由处理器总线2020在内存与I/O接口2015、PPE处理器单元2005和SPE处理器单元2010之间通信。
为阐明目的,讨论了以上计算机系统实例,本发明实施例能够容易地适用于与包括摄像机以及能够照明附近物体的任何类型的显示设备的任何类型系统一起工作。本领域普通技术人员可以从说明书和附图预想出进一步的实施例。在其它实施例中,可以方便地做出对以上所揭示的发明的组合或者子组合。对结构的框图和流程图归类以易于理解。然而,应当理解的是,在当前发明可选择的实施例中,方框的组合、新方框的增加、方框的重新排布等都是可预料的。
相应地,说明书及附图被认为是示意性的而不是限制性的。但是,在不脱离本发明的精神和权利要求所阐明范围的前提下,在其上做出的各种各样的改进或者改动被认为是显而易见的。
Claims (20)
1.一种建立实物物体的计算机图形模型的方法,该方法包括:
选择第一照明图案;
在显示设备上显示所述第一照明图案以便照亮实物物体;
获取由所述第一照明图案所照亮的所述实物物体的第一图像,其中,所述第一图像包括具有阴影值的图像点;
选择第二照明图案;
在显示设备上显示所述第二照明图案以便照亮实物物体;
获取由所述第二照明图案所照亮的所述实物物体的第二图像,其中,所述第二图像包括具有阴影值的图像点;
确定计算机图形模型的一组模型点中的每个模型点的候选表面方位,所述确定基于所述第一和第二图像的图像点的阴影值。
2.如权利要求1所述的方法,其中所述第一或第二照明图案包括预先确定的照明图案。
3.如权利要求1所述的方法,其中所述第一或第二照明图案包括根据算法生成的图案。
4.如权利要求1所述的方法,其中所述第一或第二照明图案包括平移或选择的三角形。
5.如权利要求1所述的方法,其中,所述第一照明图案包括不同颜色的区域。
6.如权利要求5所述的方法,其中,所述第二照明图案包括不同颜色的区域,其中所述颜色区域的位置与所述第一照明图案中的颜色区域的位置互换。
7.如权利要求1所述的方法,其中,确定一组模型点中的每个模型点的候选表面方位包括:
将所述第一或第二图像的阴影值与校准阴影值匹配,该校准阴影值得自具有已知几何形状并且被第一照明图案照亮的校准物体的图像;以及
根据所述校准物体的已知几何形状的部分定义第一组候选表面方位,该部分对应所述校准阴影值。
8.如权利要求7所述的方法,其中,所述校准物体是用户的脸的一部分。
9.如权利要求7所述的方法,其中,所述校准物体是球体。
10.如权利要求1所述的方法,进一步包括:
判断模型点组的至少一部分模型点的每一个是否与单一候选表面方位相关联;以及
响应于模型点组的至少一部分模型点的每一个与单一候选表面方位相关联的判断,定义适于模型点组的至少一部分模型点的候选表面方位的计算机图形模型的表面。
11.一种建立实物物体的计算机图形模型的系统,包括:
用于选择第一照明图案的装置;
用于在显示设备上显示所述第一照明图案以便照亮实物物体的装置;
用于获取由所述第一照明图案所照亮的所述实物物体的第一图像的装置,其中,所述第一图像包括具有阴影值的图像点;
用于选择第二照明图案的装置;
用于在显示设备上显示所述第二照明图案以便照亮实物物体的装置;
用于获取由所述第二照明图案所照亮的所述实物物体的第二图像的装置,其中,所述第二图像包括具有阴影值的图像点;
用于确定计算机图形模型的一组模型点中的每个模型点的候选表面方位的装置,所述确定基于所述第一和第二图像的图像点的阴影值。
12.如权利要求11所述的系统,其中所述第一或第二照明图案包括预先确定的照明图案。
13.如权利要求11所述的系统,其中所述第一或第二照明图案包括根据算法生成的图案。
14.如权利要求11所述的系统,其中所述第一或第二照明图案包括平移或选择的三角形。
15.如权利要求11所述的系统,其中,所述第一照明图案包括不同颜色的区域。
16.如权利要求15所述的系统,其中,所述第二照明图案包括不同颜色的区域,其中所述颜色区域的位置与所述第一照明图案中的颜色区域的位置互换。
17.如权利要求11所述的系统,其中,用于确定一组模型点中的每个模型点的候选表面方位的装置包括:
用于将所述第一或第二图像的阴影值与校准阴影值匹配的装置,该校准阴影值得自具有已知几何形状并且被第一照明图案照亮的校准物体的图像;以及
用于根据所述校准物体的已知几何形状的部分定义第一组候选表面方位的装置,该部分对应所述校准阴影值。
18.如权利要求17所述的系统,其中,所述校准物体是用户的脸的一部分。
19.如权利要求17所述的系统,其中,所述校准物体是球体。
20.如权利要求11所述的系统,进一步包括:
用于判断模型点组的至少一部分模型点的每一个是否与单一候选表面方位相关联的装置;以及
装置,用于响应于模型点组的至少一部分模型点的每一个与单一候选表面方位相关联的判断,定义适于模型点组的至少一部分模型点的候选表面方位的计算机图形模型的表面。
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US91379307P | 2007-04-24 | 2007-04-24 | |
US60/913,793 | 2007-04-24 | ||
US60/913793 | 2007-04-24 | ||
US11/840,813 US8218903B2 (en) | 2007-04-24 | 2007-08-17 | 3D object scanning using video camera and TV monitor |
US11/840813 | 2007-08-17 | ||
US11/840,813 | 2007-08-17 | ||
CN2008800133523A CN101669146B (zh) | 2007-04-24 | 2008-04-23 | 使用摄像机和电视监视器的三维物体扫描 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008800133523A Division CN101669146B (zh) | 2007-04-24 | 2008-04-23 | 使用摄像机和电视监视器的三维物体扫描 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103489216A true CN103489216A (zh) | 2014-01-01 |
CN103489216B CN103489216B (zh) | 2018-06-01 |
Family
ID=39886394
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310409656.4A Active CN103489216B (zh) | 2007-04-24 | 2008-04-23 | 使用摄像机和电视监视器的三维物体扫描 |
CN2008800133523A Active CN101669146B (zh) | 2007-04-24 | 2008-04-23 | 使用摄像机和电视监视器的三维物体扫描 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008800133523A Active CN101669146B (zh) | 2007-04-24 | 2008-04-23 | 使用摄像机和电视监视器的三维物体扫描 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8218903B2 (zh) |
EP (1) | EP2147412B1 (zh) |
JP (1) | JP2010526295A (zh) |
CN (2) | CN103489216B (zh) |
WO (1) | WO2008134368A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105577972A (zh) * | 2015-12-28 | 2016-05-11 | 苏州佳世达光电有限公司 | 扫描方法及扫描装置 |
CN114777682A (zh) * | 2017-10-06 | 2022-07-22 | 先进扫描仪公司 | 生成一个或多个亮度边缘以形成物体的三维模型 |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2348705A4 (en) * | 2008-10-02 | 2012-04-25 | Lg Electronics Inc | METHOD OF CONTROLLING IMAGE QUALITY AND DISPLAYING IMAGES USING THE SAME |
JP5567908B2 (ja) * | 2009-06-24 | 2014-08-06 | キヤノン株式会社 | 3次元計測装置、その計測方法及びプログラム |
US9015241B2 (en) * | 2009-12-17 | 2015-04-21 | At&T Intellectual Property I, L.P. | Apparatus and method for video conferencing |
KR20120067888A (ko) * | 2010-12-16 | 2012-06-26 | 한국전자통신연구원 | 스테레오 영상 처리 장치 및 그 방법 |
JP5746529B2 (ja) * | 2011-03-16 | 2015-07-08 | キヤノン株式会社 | 三次元距離計測装置、三次元距離計測方法、およびプログラム |
JP5538483B2 (ja) | 2012-06-29 | 2014-07-02 | 株式会社ソニー・コンピュータエンタテインメント | 映像処理装置、映像処理方法、および映像処理システム |
US20140028799A1 (en) * | 2012-07-25 | 2014-01-30 | James Kuffner | Use of Color and Intensity Modulation of a Display for Three-Dimensional Object Information |
US9554049B2 (en) * | 2012-12-04 | 2017-01-24 | Ebay Inc. | Guided video capture for item listings |
CN103927784B (zh) * | 2014-04-17 | 2017-07-18 | 中国科学院深圳先进技术研究院 | 一种主动式三维扫描方法 |
US9922452B2 (en) * | 2015-09-17 | 2018-03-20 | Samsung Electronics Co., Ltd. | Apparatus and method for adjusting brightness of image |
CA2941333A1 (en) * | 2015-10-30 | 2017-04-30 | Wal-Mart Stores, Inc. | Virtual conference room |
CA2948761A1 (en) * | 2015-11-23 | 2017-05-23 | Wal-Mart Stores, Inc. | Virtual training system |
EP3436791B1 (en) | 2016-07-26 | 2020-12-23 | Hewlett-Packard Development Company, L.P. | Determining illumination direction with three-dimensional illumination charts |
CN108038913A (zh) * | 2017-12-08 | 2018-05-15 | 苏州蜗牛数字科技股份有限公司 | 一种基于摄影测量生成写实模型和贴图的方法 |
US10909373B1 (en) | 2018-08-24 | 2021-02-02 | Snap Inc. | Augmented reality system using structured light |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11331875A (ja) * | 1998-05-19 | 1999-11-30 | Matsushita Electric Ind Co Ltd | 3次元情報伝送方法 |
US20030128207A1 (en) * | 2002-01-07 | 2003-07-10 | Canon Kabushiki Kaisha | 3-Dimensional image processing method, 3-dimensional image processing device, and 3-dimensional image processing system |
US6819319B1 (en) * | 1997-08-20 | 2004-11-16 | Imagination Technologies Limited | Shading three dimensional computer graphics images |
CN1654922A (zh) * | 2003-09-25 | 2005-08-17 | 西门子测听技术有限责任公司 | 环视扫描仪 |
WO2007035541A1 (en) * | 2005-09-15 | 2007-03-29 | Microsoft Corporation | Budget-dependent pseudo bid in auction |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3198617B2 (ja) * | 1991-10-30 | 2001-08-13 | ソニー株式会社 | 三次元形状復元方法とその装置 |
JP3524147B2 (ja) * | 1994-04-28 | 2004-05-10 | キヤノン株式会社 | 3次元画像表示装置 |
JP3823333B2 (ja) * | 1995-02-21 | 2006-09-20 | 株式会社日立製作所 | 動画像の変化点検出方法、動画像の変化点検出装置、動画像の変化点検出システム |
JP2792539B2 (ja) * | 1995-05-31 | 1998-09-03 | 日本電気株式会社 | 等高線からの三次元データ作成システム |
JPH1144515A (ja) * | 1997-07-25 | 1999-02-16 | Seiko Epson Corp | 能動型光照射器、光検出器、及び、3次元画像入力装置 |
US6362822B1 (en) * | 1999-03-12 | 2002-03-26 | Terminal Reality, Inc. | Lighting and shadowing methods and arrangements for use in computer graphic simulations |
JP4110501B2 (ja) | 1999-11-22 | 2008-07-02 | ソニー株式会社 | ランダムパターン生成装置とその方法、距離画像生成装置とその方法、およびプログラム提供媒体 |
GB2370737B (en) * | 2000-10-06 | 2005-03-16 | Canon Kk | Image processing apparatus |
US6369879B1 (en) * | 2000-10-24 | 2002-04-09 | The Regents Of The University Of California | Method and apparatus for determining the coordinates of an object |
US6704447B2 (en) * | 2001-02-21 | 2004-03-09 | Justsystem Corporation | Method and apparatus for using illumination from a display for computer vision based user interfaces and biometric authentication |
US6765572B2 (en) * | 2001-04-23 | 2004-07-20 | Koninklijke Philips Electronics N.V. | Virtual modeling by voxel-clipping shadow-cast |
JP4107469B2 (ja) * | 2001-08-31 | 2008-06-25 | ローランドディー.ジー.株式会社 | 3次元形状データの生成方法 |
GB0208909D0 (en) * | 2002-04-18 | 2002-05-29 | Canon Europa Nv | Three-dimensional computer modelling |
US7317812B1 (en) * | 2002-11-15 | 2008-01-08 | Videomining Corporation | Method and apparatus for robustly tracking objects |
GB0301775D0 (en) * | 2003-01-25 | 2003-02-26 | Wilson John E | Device and method for 3Dimaging |
JP2005024438A (ja) * | 2003-07-04 | 2005-01-27 | Murakami Corp | 曲面鏡の鏡面精度検査方法、曲面鏡の鏡面精度検査装置、曲面鏡の鏡面精度検査用パターンの作成方法および曲面鏡の鏡面精度検査用パターン |
US20050243085A1 (en) * | 2004-05-03 | 2005-11-03 | Microsoft Corporation | Model 3D construction application program interface |
CA2579903C (en) * | 2004-09-17 | 2012-03-13 | Cyberextruder.Com, Inc. | System, method, and apparatus for generating a three-dimensional representation from one or more two-dimensional images |
US20060177122A1 (en) * | 2005-02-07 | 2006-08-10 | Sony Computer Entertainment Inc. | Method and apparatus for particle manipulation using graphics processing |
CA2553546A1 (en) * | 2005-07-29 | 2007-01-29 | Avid Technology, Inc. | Three-dimensional animation of soft tissue of characters using controls associated with a surface mesh |
JP4909543B2 (ja) * | 2005-08-01 | 2012-04-04 | 株式会社トプコン | 三次元計測システム及びその方法 |
JP5002144B2 (ja) * | 2005-09-30 | 2012-08-15 | 株式会社トプコン | 三次元計測用投影装置及びシステム |
-
2007
- 2007-08-17 US US11/840,813 patent/US8218903B2/en active Active
-
2008
- 2008-04-23 EP EP08746669.4A patent/EP2147412B1/en active Active
- 2008-04-23 WO PCT/US2008/061288 patent/WO2008134368A1/en active Application Filing
- 2008-04-23 JP JP2010506455A patent/JP2010526295A/ja active Pending
- 2008-04-23 CN CN201310409656.4A patent/CN103489216B/zh active Active
- 2008-04-23 CN CN2008800133523A patent/CN101669146B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6819319B1 (en) * | 1997-08-20 | 2004-11-16 | Imagination Technologies Limited | Shading three dimensional computer graphics images |
JPH11331875A (ja) * | 1998-05-19 | 1999-11-30 | Matsushita Electric Ind Co Ltd | 3次元情報伝送方法 |
US20030128207A1 (en) * | 2002-01-07 | 2003-07-10 | Canon Kabushiki Kaisha | 3-Dimensional image processing method, 3-dimensional image processing device, and 3-dimensional image processing system |
CN1654922A (zh) * | 2003-09-25 | 2005-08-17 | 西门子测听技术有限责任公司 | 环视扫描仪 |
WO2007035541A1 (en) * | 2005-09-15 | 2007-03-29 | Microsoft Corporation | Budget-dependent pseudo bid in auction |
Non-Patent Citations (1)
Title |
---|
MARC PROESMANS, ET AL.: "Reading between the lines-a method for extracting dynamic 3D with texture", 《COMPUTER VISION, 1998. SIXTH INTERNATIONAL CONFERENCE ON》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105577972A (zh) * | 2015-12-28 | 2016-05-11 | 苏州佳世达光电有限公司 | 扫描方法及扫描装置 |
CN105577972B (zh) * | 2015-12-28 | 2018-05-11 | 苏州佳世达光电有限公司 | 扫描方法及扫描装置 |
CN114777682A (zh) * | 2017-10-06 | 2022-07-22 | 先进扫描仪公司 | 生成一个或多个亮度边缘以形成物体的三维模型 |
CN114777680A (zh) * | 2017-10-06 | 2022-07-22 | 先进扫描仪公司 | 生成一个或多个亮度边缘以形成物体的三维模型 |
Also Published As
Publication number | Publication date |
---|---|
US20080266294A1 (en) | 2008-10-30 |
WO2008134368A1 (en) | 2008-11-06 |
EP2147412A1 (en) | 2010-01-27 |
EP2147412A4 (en) | 2015-10-07 |
CN101669146A (zh) | 2010-03-10 |
CN101669146B (zh) | 2013-10-16 |
CN103489216B (zh) | 2018-06-01 |
US8218903B2 (en) | 2012-07-10 |
JP2010526295A (ja) | 2010-07-29 |
EP2147412B1 (en) | 2019-09-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101669146B (zh) | 使用摄像机和电视监视器的三维物体扫描 | |
JP5299173B2 (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
US10719912B2 (en) | Scaling and feature retention in graphical elements defined based on functions | |
US9519988B2 (en) | Subspace clothing simulation using adaptive bases | |
US10628995B2 (en) | Anti-aliasing of graphical elements defined based on functions | |
US10650524B2 (en) | Designing effective inter-pixel information flow for natural image matting | |
US9311737B1 (en) | Temporal voxel data structure | |
US9292954B1 (en) | Temporal voxel buffer rendering | |
Fu et al. | Layerpaint: A multi-layer interactive 3d painting interface | |
US20210183129A1 (en) | Graphics processing | |
US9317967B1 (en) | Deformation of surface objects | |
Alhejri et al. | Reconstructing real object appearance with virtual materials using mobile augmented reality | |
US9292953B1 (en) | Temporal voxel buffer generation | |
Fernández-Palacios et al. | Augmented reality for archaeological finds | |
CN114170409A (zh) | 一种三维模型的自动判断显示标注的方法 | |
Stemkoski et al. | Developing Graphics Frameworks with Java and OpenGL | |
Gross et al. | Gesture Modelling: Using Video to Capture Freehand Modeling Commands | |
US11941739B1 (en) | Object deformation network system and method | |
US11574091B2 (en) | Techniques for recovering from intersections | |
Burris | TRANSFORMATIONS IN COMPUTER GRAPHICS | |
Beebe | A Bibliography of Computer Graphics Forum: 1982–2009 | |
Karlsson et al. | Rendering Realistic Augmented Objects Using a Image Based Lighting Approach | |
US10109062B1 (en) | Non-coherent point tracking and solving for ambiguous images and geometry | |
Paulaniemi | Optimizing real-time graphics for a VR environment | |
US9406161B1 (en) | Curve reparameterization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |