CN102792338B - 信息处理设备和信息处理方法 - Google Patents

信息处理设备和信息处理方法 Download PDF

Info

Publication number
CN102792338B
CN102792338B CN201080054570.9A CN201080054570A CN102792338B CN 102792338 B CN102792338 B CN 102792338B CN 201080054570 A CN201080054570 A CN 201080054570A CN 102792338 B CN102792338 B CN 102792338B
Authority
CN
China
Prior art keywords
real space
scale base
image
unit
virtual information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201080054570.9A
Other languages
English (en)
Other versions
CN102792338A (zh
Inventor
宫下朗
铃木和弘
石毛广行
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN102792338A publication Critical patent/CN102792338A/zh
Application granted granted Critical
Publication of CN102792338B publication Critical patent/CN102792338B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/012Dimensioning, tolerancing

Abstract

在真实空间图像上叠加大小适合于三维空间的比例的虚拟信息。提供了信息处理设备(10),其包括:图像获取单元(152),用于获取真实空间图像;空间分析单元(154),用于分析真实空间图像的三维空间结构;比例基准检测单元(158),用于检测真实空间图像中包括的作为比例基准的对象在三维空间中的长度;以及比例确定单元(160),用于根据由比例基准检测单元检测的对象长度确定三维空间的比例。

Description

信息处理设备和信息处理方法
技术领域
本发明涉及信息处理设备、信息处理方法和程序。
背景技术
近来,作为增强的现实技术的一部分,使得虚拟信息被叠加显示在诸如所拍摄图像之类的真实空间信息上。例如,可以读取所拍摄图像内包含的预定标记,并且可以把与该标记相对应的虚拟信息叠加显示在真实空间图像上(例如,专利文献1)。
引文列表
专利文献
专利文献1:JP2008-510254A
发明内容
技术问题
但是,采用专利文献1,因为所拍摄真实空间图像的空间比例未知,存在不能在以适当尺寸将虚拟信息叠加在真实空间图像上的同时显示虚拟信息的问题。
因此,针对以上问题做出了本发明,本发明的目的是提供一种新型的并且改进的信息处理设备、信息处理方法和程序,其能够叠加大小适合于真实空间图像的3D空间的比例的虚拟信息。
问题的解决方案
按照本发明的一方面,为了达到上述目的,提供了一种信息处理设备,包括:图像获取单元,用于获取真实空间图像;空间分析单元,用于分析真实空间图像的三维空间结构;比例基准检测单元,用于检测真实空间图像中包括的作为比例基准的对象在三维空间中的长度;以及比例确定单元,用于根据由比例基准检测单元检测的对象长度确定三维空间的比例。
此外,信息处理设备可以进一步包括:存储单元,彼此关联地存储被叠加显示在真实空间图像上的虚拟信息以及虚拟信息的真实大小;虚拟信息布置单元,用于在真实空间图像上布置虚拟信息,该虚拟信息的大小已被根据由比例确定单元确定的比例而调整;以及图像生成单元,用于生成通过将虚拟信息叠加在真实空间图像上而获得的输出图像。
由比例基准检测单元检测的作为比例基准的对象可以是人。
由比例基准检测单元检测的作为比例基准的对象可以是脸。
比例基准检测单元可以优先将真实空间图像中包含的对象中被清楚地拍摄的对象用作作为比例基准的对象。
比例基准检测单元可以优先将真实空间图像中包含的对象中位置离成像装置近的对象用作作为比例基准的对象。
比例基准检测单元可以优先将真实空间图像中包含的对象中靠近成像装置的水平位置的对象用作作为比例基准的对象。
按照本发明的另一方面,为了达到上述目的,提供了一种信息处理方法,包括下列步骤:获取真实空间图像;分析真实空间图像的三维空间结构;检测真实空间图像中包括的作为比例基准的对象在三维空间中的长度;以及根据检测的对象长度确定三维空间的比例。
按照本发明的另一方面,为了达到上述目的,提供了一种使计算机用作信息处理设备的程序,该信息处理设备包括:图像获取单元,用于获取真实空间图像;空间分析单元,用于分析真实空间图像的三维空间结构;比例基准检测单元,用于检测真实空间图像中包括的作为比例基准的对象在三维空间中的长度;以及比例确定单元,用于根据由比例基准检测单元检测的对象长度确定三维空间的比例。
发明的有益效果
如上所述,按照本发明,可以叠加大小适合真实空间图像的3D空间比例的虚拟信息。
附图说明
[图1]按照本发明一个实施例描述信息处理设备的概要的说明图。
[图2]按照所述实施例描述信息处理设备的概要的说明图。
[图3]按照所述实施例示出信息处理设备的硬件配置的框图。
[图4]按照所述实施例示出信息处理设备的功能配置的框图。
[图5]按照所述实施例描述存储单元的存储内容的说明图。
[图6]按照所述实施例描述比例基准检测单元的检测结果示例的说明图。
[图7]按照所述实施例示出信息处理设备的整体操作的流程图。
[图8]按照所述实施例示出按比例缩放处理的细节的流程图。
[图9]按照所述实施例示出虚拟信息布置处理的细节的流程图。
[图10]按照所述实施例描述虚拟信息的示例性布置的说明图。
[图11]按照另一实施例示出信息处理设备和服务器的功能配置的框图。
具体实施方式
下面将参考附图对本发明优选实施例进行详细描述。注意,在本说明书和附图中,功能和结构基本相同的部件用相同的标号表示,省略重复说明。
此外,将按照下列顺序描述“具体实施方式”。
(1)本发明实施例的目的
(2)信息处理设备的概要
(3)信息处理设备的硬件配置
(4)信息处理设备的功能配置
(5)信息处理设备的操作的细节
(1)本发明实施例的目的
首先,将描述本发明实施例的目的。近来,作为增强的现实技术的一部分,使得虚拟信息被叠加显示在诸如所拍摄图像之类的真实空间信息上。例如,可以读取所拍摄图像内包含的预定标记,并且可以把与该标记相对应的虚拟信息叠加显示在真实空间图像上。但是,因为所拍摄的真实空间图像的空间比例未知,存在不能在以适当尺寸将虚拟信息叠加在真实空间图像上的同时显示虚拟信息的问题。
因此,针对上述情况创建了根据本发明实施例的信息处理设备10。根据本实施例的信息处理设备10,能够叠加大小适合于真实空间图像的3D空间比例的虚拟信息。
(2)信息处理设备的概要
接下来,将参考图1和图2描述信息处理设备10的概要。图1和图2是描述信息处理设备10的概要的说明图。信息处理设备10可由带有显示装置的信息处理终端来例示,例如移动电话、PDA(个人数字助理)、便携式游戏机、小型PC(个人计算机)等等。在信息处理设备10中登记将要叠加在真实空间图像上的虚拟信息。
如图1所示,图像500是显示在信息处理设备10的显示单元上的图像。在图像500中,虚拟信息501被叠加显示在由信息处理设备10中提供的成像装置所拍摄的真实空间图像上。在图像500中,猫、狗等等被显示为虚拟信息501。显示在图像500上的虚拟信息501的大小大于作为真实空间图像中的真实对象的人。这是因为由于真实空间图像的比例、虚拟信息在真实空间图像中的尺寸等都未知,因而虚拟信息501不能调整到合适大小。
另一方面,在图像510中,在按照人512的高度调整虚拟信息511的大小的情况下,将虚拟信息511叠加在真实空间图像上。信息处理设备10基于人512的高度确定真实空间图像的比例基准,并将虚拟信息511调整成符合比例基准的大小。例如,当将人512作为比例基准的对象时,如果人512的长度为16.5个刻度并且人的平均高度为165cm,则空间的比例为10cm/刻度。
如果虚拟信息511中的猫的真实大小被登记为50cm,那么按照由上述方法计算的空间比例,猫的大小为5个刻度。这样,根据本实施例,可以叠加并显示大小适合真实空间图像的三维空间比例的虚拟信息。
此外,如图2所示,在图像520中,尽管虚拟信息521的尺寸相对于人而言是适当的,但是布置在三维空间后部的虚拟信息522没有按适当尺寸显示。在图像520中,尽管右侧的图像是在三维空间中有深度的图像,但是虚拟信息522的大小不是符合三维空间的深度的大小。
另一方面,在图像530中,虚拟信息531的尺寸符合真实空间图像中人533的高度,并且虚拟信息532的尺寸符合三维空间的深度。这样,信息处理设备10能叠加大小适合真实空间图像比例的虚拟信息,此外还能叠加大小适合真实空间图像的三维空间深度的虚拟信息。
(3)信息处理设备的硬件配置
以上对信息处理设备10的概要进行了描述。接下来,将参考图3描述信息处理设备10的硬件配置。图3是示出信息处理设备10的硬件配置的框图。信息处理设备10包括CPU(中央处理单元)101、ROM(只读存储器)102、RAM(随机访问存储器)103、主机总线104、桥接器105、外部总线106、接口107、输入装置108、输出装置109、存储装置(HDD)110、驱动器111以及通信装置112。
CPU101用作算术处理单元和控制单元,并按照各种程序控制信息处理设备10的整体操作。此外,CPU101可以是微处理器。ROM102存储CPU101使用的程序、算术参数等等。RAM103临时存储在CPU101的执行时使用的程序、在执行过程中任意更改的参数等等。这些部件通过由CPU总线等构成的主机总线104相互连接。
主机总线104通过桥接器105与诸如PCI(外围部件互连/接口)总线等外部总线106连接。此外,主机总线104、桥接器105以及外部总线106不一定必须分开配置,这些功能可在单条总线中实现。
输入装置108由供用户输入信息的输入手段(例如鼠标、键盘、触控面板、按钮、麦克风、开关和控制杆)、基于来自用户的输入来生成输入信号并将其输出至CPU101的输入控制电路等等构成。信息处理设备10的用户可通过操作输入装置108向信息处理设备10输入各种数据或者命令信息处理设备10进行处理操作。
输出装置109例如由诸如CRT(阴极射线管)显示装置、液晶显示(LCD)装置、OLED(有机发光二极管)装置或灯等显示装置以及诸如扬声器或耳机等音频输出装置构成。输出装置109例如输出再现内容。具体地,显示装置将再现的诸如视频数据等各种信息显示为文本或图像。另一方面,音频输出装置将再现的音频数据等转换成音频并将其输出。
存储装置110是用于存储数据的装置,其被配置为根据本实施例的信息处理设备10的存储单元的示例,并且存储装置110可以包括存储介质、将数据记录在存储介质中的记录装置、从存储介质读取数据的读出装置、删除存储介质中所记录的数据的删除装置等。例如,存储装置110由HDD(硬盘驱动器)构成。该存储装置110驱动硬盘,并存储CPU101执行的程序或各种数据。后面描述的项目、标识号等也存储在该存储装置110中。
驱动器111是存储介质的读出器/写入器,并且内置或外接于信息处理设备10。驱动器111读取记录在诸如磁盘、光盘、磁光盘或半导体存储器等附接到其的可移动记录介质24上的信息,并将信息输出至RAM103。
通信装置112是例如由用于连接到通信网络50的通信装置构成的通信接口。此外,通信装置112可以是兼容无线LAN(局域网)的通信装置、兼容无线USB的通信装置或者通过电线进行通信的有线通信装置。
(4)信息处理设备的功能配置
以上描述了信息处理设备10的示例性硬件配置。接下来,将参考图4描述根据本实施例的信息处理设备10的功能配置。图4是根据本实施例的信息处理设备10的功能配置的框图。
如图4所示,信息处理设备10包括图像获取单元152、空间分析单元154、存储单元156、比例基准检测单元158、比例确定单元160、虚拟信息布置单元162、图像生成单元164、图像输出单元166等等。
图像获取单元152具有获取真实空间图像的功能。真实区间图像例如是由成像装置(未示出)等拍摄的风景图像。成像装置可与信息处理设备10一体配置,或者可配置为单独的装置。例如,由与信息处理设备10分离的成像装置拍摄的图像可存储在诸如存储卡等存储装置内,并且可以由图像获取单元152取回。图像获取单元152将获取的真实空间图像提供给空间分析单元154。
空间分析单元154分析图像获取单元152提供的作为三维空间的真实空间图像的结构。作为基于真实空间图像分析三维结构的方法,可以通过感知图像的浓淡来分析真实空间图像的三维结构,或者可以基于帧的构成来分析三维结构,所述帧的构成是通过检测真实空间图像中包括的建筑物等的帧而获得的。
将要叠加在真实空间图像上的虚拟信息和虚拟信息的实际大小被彼此关联地存储在存储单元156中。图5是描述存储单元156的存储内容400的说明图。如图5所示,虚拟信息401和虚拟信息的大小400被彼此关联地存储。虚拟信息401可包括用于识别虚拟信息的识别信息。每条虚拟信息的图像可作为虚拟信息401存储;或者,也可以仅存储虚拟信息的识别信息,并且与虚拟信息的识别信息相关联的图像可从诸如服务器等另一装置获得。
如图5所示,作为虚拟信息的3D模型401“猫”和大小402“50cm”以及作为虚拟信息的3D模型401“狗”和大小402“60cm”被彼此关联地存储在存储单元156中。同样,作为虚拟信息的3D模型“○○宾馆”和大小402“100m”被彼此关联地存储。作为虚拟信息的3D模型401和大小402可被预先存储,或者存储内容可被按照用户输入来更新或增加。
回到图4,比例基准检测单元158具有检测真实空间图像中包括的用作比例基准的对象在三维空间中的长度的功能。作为真实空间图像中包括的用作比例基准的对象,例如举出平均长度明显的人、脸等。可以针对人的高度、脸的长度、眼睛间的距离等来预先获得平均长度。同样,该长度是三维空间坐标系中的长度并且例如是刻度数量等。
图6示出了比例基准检测单元158的检测结果410的示例。例如,如图6所示,比例基准检测单元158检测到对象的长度511为16.5。所检测对象的属性412为“人,男性,成年人,站立”。此外,该对象在虚拟空间中的坐标被检测为“(1,2,3)”。此外,“坐下”状态也可被检测为比例基准对象的属性,然后坐下状态中的长度(高度)可被检测。此外,脸可被检测为比例基准对象的属性,然后脸的长度(眼睛间的距离)可被检测。例如可以通过使用JP2006-209334A中所描述的已知技术来检测真实空间图像中包含的人的高度、脸的长度等。
在JP2006-209334A中,拍摄到人等并且获取到二维图像,从所获取的二维图像中提取人区域并将其投影到三维空间中的多个水平面上。然后,通过对投影到各水平面上的人的图像进行积分来计算积分值,并且将计算出的积分值的峰值在三维空间中所处的水平位置检测为人的位置,并且还将该峰值在三维空间中所处的水平位置当中、人的图像所存在的最高水平面的高度检测为人的高度。
回到图4,将继续说明比例基准检测单元158的功能。在真实空间图像中有多个人或脸的情况下,优先将多个人或脸中更清楚地拍摄的对象用作作为比例基准的对象,并检测其长度。此外,可以优先将位置离信息处理设备10近的人等用作作为比例基准的对象,并且可以检测其长度。
此外,信息处理设备10的水平位置附近的对象可用作比例基准对象,并且其长度可被检测。因为对于与信息处理设备10在高度方向上存在较大差异的位置处的对象,难以准确检测身高的长度、脸的长度等,所以优先选择信息处理设备10的水平位置附近的对象。此外,可采用具有普通人身高的男人作为比例基准对象,而不用身高差异较大的小孩。
此外,在人处于坐下状态的情况下,检测到比例基准对象坐下的状态,并且检测坐下状态的长度(例如14.8)。这样,比例基准检测单元158检测对象的属性以及对象的长度,并向比例确定单元160提供检测结果。
比例确定单元160具有根据比例基准检测单元158检测的对象长度来确定三维空间的比例的功能。例如,假定比例基准检测单元158通知了比例基准对象为人,并且其长度为16.5个刻度。在这种情况下,如果人的平均身高预先设定为165cm,则空间的比例可被确定为10cm/刻度。
此外,如上所述,在由比例基准检测单元158连同对象长度一起提供对象属性的情况下,可以基于属性的特性来确定空间的比例。也就是说,在不仅提供信息“人”而且提供诸如“男性、成年人、站立”等信息作为对象属性的情况下,获取站立的成年男性的平均真实比例值,并且可以更准确地确定空间的比例。
此外,在比例基准检测单元158提供多个对象的长度的情况下,可以通过从多个对象中选择一个任意对象来确定空间的比例。此外,在比例基准检测单元158提供多个对象的长度的情况下,可以例如通过利用多个对象对长度的值求平均或除去异常值,用统计计算处理来计算空间的比例。
此外,在有多个将作为比例基准的对象的情况下,可以按照对象的属性信息分类成多个组,并且可将作为比例基准的不同对象的实际长度应用于各个组。例如,可以想到基于性别或年龄、人或脸的类型、人的姿势(站立、坐下)等对象属性进行分类。
另外,在由比例基准检测单元158检测真实空间图像内包含的所有对象的长度的情况下,可将任意对象从比例确定单元160的比例确定处理排除,或者可以通过对各对象进行加权来确定比例。
例如,远离信息处理设备10的对象可被从比例确定处理排除,或者被利用比信息处理设备10附近的对象更小的权重进行计算。这是因为,如上所述,远离信息处理设备10的对象很有可能是不清楚的图像,并且当将它用于比例确定处理时,将会降低计算精度。
此外,位于与信息处理设备10在高度方向上存在较大差异的位置上的对象可被排除,或者被利用比信息处理设备10的水平位置附近的对象更小的权重进行计算。这是因为,如上所述,在对象位于与信息处理设备10在高度方向上存在较大差异的位置上时,难以准确检测高度。
虚拟信息布置单元162具有在真实空间图像中布置虚拟信息的功能,虚拟信息的大小已根据比例确定单元160确定的比例调整好。如上所述,虚拟信息被与各虚拟信息的实际大小相关联地存储在存储单元156中。虚拟信息布置单元162从存储单元156获取将要布置在真实空间图像中的虚拟信息以及虚拟信息的大小,并且基于由比例确定单元160计算的空间比例以及关于虚拟信息大小的信息来计算虚拟信息在三维空间中的大小。
例如,在比例确定单元160确定空间的比例为10cm/刻度的情况下,真实大小为50cm的虚拟信息“猫”在三维空间中的大小将是“5个刻度”。因此,虚拟信息布置单元162将虚拟信息“猫”调整为5个刻度,并将其布置在合适的位置。
此外,在布置虚拟信息时,如果虚拟信息的位置已经通过离信息处理设备10的相对位置或相对距离或者GPS的绝对位置等确定,则虚拟信息布置单元162将虚拟信息调整为合适尺寸,并且还基于三维空间的比例将其布置在合适位置。
图像生成单元164具有将虚拟信息布置单元162布置的虚拟信息叠加在真实空间图像上并生成二维输出图像的功能。例如,通过在真实空间图像上叠加如下图像来生成输出图像:该图像是通过将三维空间坐标上的虚拟信息投影在作为虚拟显示的二维平面上而得到的。图像生成单元164将生成的图像提供给图像输出单元166。
图像输出单元166具有将图像生产单元164提供的图像输出到显示器(未示出)等的功能。诸如显示器之类的输出装置可集成在信息处理设备10中,或者可以以单独的装置来提供。无论显示器集成在信息处理设备10中还是与信息处理设备10分离,图像输出单元166都将生成的图像发送给显示器。
此外,以上描述了真实空间图像中包含诸如人之类的比例基准对象的情况,但是在比例基准对象未包含在真实空间图像中的情况下,大意是必须对比例基准对象进行拍摄的消息可显示在显示器上并通知给用户。
(5)信息处理设备的操作的细节
以上描述了信息处理设备10的功能配置。接下来,将参考图7至图10描述信息处理设备10的操作的细节。图7示出是信息处理设备10整体操作的流程图。首先,图像获取单元152通过成像装置获取信息处理设备10的周围的图像(S102)。
然后,空间分析单元154分析在步骤S102中获取的真实空间图像作为三维空间的结构。如上所述,作为基于真实空间图像分析三维结构的方法,可以通过感知图像的浓淡来分析真实空间图像的三维结构,或者可以基于帧的构成来分析三维结构,所述帧的构成是通过检测真实空间图像中包括的建筑物等的帧而获得的。
接下来,通过比例基准检测单元158和比例确定单元160执行真实空间图像的按比例缩放(S106)。在此,将参考图8详细描述步骤S106的按比例缩放处理。图8是示出按比例缩放处理的细节的流程图。
如图8所示,比例基准检测单元158选择将作为比例基准的对象并检测对象的长度(S122)。比例基准检测单元158在步骤S122中选择真实空间图像内包含的平均长度明显的对象(例如人或脸),并检测对象在三维空间坐标系上的刻度数量等。
然后,比例确定单元160根据在步骤S122中检测的对象长度来确定三维空间的比例(S124)。假定步骤S122中的比例基准对象为人,并且其长度被检测为16.5个刻度。在预先设定人的平均身高为165cm的情况下,空间的比例在步骤S124中被确定为10cm/刻度。
以上描述了步骤S106的按比例缩放处理的细节。回到图7,将继续说明。在步骤S106中执行按比例缩放处理后,通过虚拟信息布置单元162将虚拟信息布置在真实空间图像上(S108)。在此,将参考图9描述步骤S108的虚拟信息布置处理的细节。图9是示出虚拟信息布置处理的细节的流程图。
如图9所示,虚拟信息布置单元162首先获取存储单元156中存储的虚拟信息(S132)。然后,根据步骤S106中确定的空间比例,确定虚拟信息在真实空间图像中的大小(S134)。在步骤S134中,在空间的比例在步骤S106中被确定为10cm/刻度的情况下,真实大小为50cm的虚拟信息“猫”在三维空间中的大小被确定为“5个刻度”。
随后,将步骤S132中获得的虚拟信息布置在三维空间坐标上(S136),并且将作为虚拟信息的3D模型的大小更改为步骤S314中确定的大小(S138)。此外,可以在步骤S132后立即进行步骤S136中对虚拟信息的布置。
在此,将参考图10描述虚拟信息的示例性布置。图10是描述虚拟信息的示例性布置的说明图。如图10所示,对于图像540,三维空间的结构由空间分析单元154来分析,并且坐标轴541被设定。图像540中包含有多人,比例基准检测单元158检测人543的长度,并且此人的刻度为16.5个刻度,假定在真实空间里的身高为165cm。比例确定单元160确定三维空间的比例为10cm/刻度。
在图像540中,虚拟信息“猫”被叠加在真实空间图像上,其大小未按比例进行更改。因此,在图像540中,猫的大小为20个刻度,这种状态下人和猫的尺寸不符合实际尺寸。
图像550是作为通过虚拟信息布置单元162更改虚拟信息的比例的结果的输出图像。在图像550中,由于虚拟信息“猫”的实际大小为50cm,因此按照三维空间坐标的比例(10cm/刻度)从20个刻度更改为5个刻度。因此,在图像550中,虚拟信息“猫”553的尺寸相对人552的尺寸是合适的。以上说明了虚拟信息布置处理的细节。
回到图7,将继续说明。在步骤S108中布置了虚拟信息后,图像生成单元164生成输出图像(S110)。在步骤S110中,其比例已在步骤S108中更改了的虚拟信息被叠加在真实空间图像上,并二维输出图像被生成。然后,图像输出单元166将步骤S164中生成的图像输出至显示器(S112)。
以上描述了信息处理设备10的操作的细节。可以按照成像装置等的帧速率周期性地进行图7所示的各个处理。此外,空间分析步骤(S104)、按比例缩放步骤(S106)以及虚拟信息布置步骤(S108)是产生较重的处理负荷的步骤,因此可以每隔几个周期进行一次。另外,按比例缩放步骤(S106)可以只在开始时进行一次,而不必周期性地进行。
此外,在本实施例中,对一幅真实空间图像进行统一的按比例缩放处理,但是本发明不限于此示例。也就是说,在一幅真实空间图像中,可以针对多个空间中的每一个来更改按比例缩放。例如,可以为靠近和远离信息处理设备10的地方确定不同的空间比例。这使得布置在信息处理设备10附近的虚拟信息被布置为变成比远离信息处理设备10布置的虚拟信息更大的大小,并且虚拟信息可被类似地布置到实际三维空间。
以上参考附图描述了本发明的优选实施例,但是本发明当然不限于上述示例。本领域技术人员在所附权利要求的范围内可找到各种变更和修正,并且应当了解,它们将自然而然地归入本发明的技术范围内。
例如,本说明书中信息处理设备10的处理步骤不一定必须按照流程图所示的顺序先后处理。也就是说,信息处理设备10的处理步骤可以是不同的处理,或者它们可以被并列执行。
此外,还可以创建一种计算机程序,用于使安装在信息处理设备10等中的诸如CPU、ROM、RAM等硬件实现与上述信息处理设备10的各部件相同的功能。此外,还提供存储该计算机程序的存储介质。
按照上述实施例,在信息处理设备10中执行各处理,但是本发明不限于这样的示例。例如,可以通过与网络连接的服务器20来执行信息处理设备10的预定处理。图11是示出信息处理设备10和服务器20的功能配置的框图。
如图11所示,信息处理设备15和服务器20通过网络而连接。信息处理设备15包括图像获取单元152和图像输出单元166。此外,服务器20包括空间分析单元202、比例基准检测单元204、比例确定单元206、存储单元208、虚拟信息布置单元210、图像生成单元212等等。
服务器20的各单元具有与上述信息处理设备10相对应的各单元相同的功能,将省略详细说明。采用图11所示的配置,诸如空间分析处理、比例确定处理、图像生成处理等产生较重负荷的处理将由服务器20执行。也就是说,信息处理设备15获取的真实空间图像通过网络传输给服务器20。然后,服务器20的空间分析单元202使用已传输的真实空间图像,并且分析真实空间图像的三维空间结构。此外,通过比例基准检测单元204检测比例基准对象在三维空间中的长度,并且通过比例确定单元206确定三维空间的比例。然后,通过虚拟信息布置单元210将虚拟信息的大小调整为符合比例的大小,并通过图像生成单元212生成通过叠加虚拟信息而得到的输出图像。图像生成单元212生成的图像传输至信息处理设备15,并显示在信息处理设备15的显示器上。
这使得仅通过传输真实空间图像至服务器20就可获得其虚拟信息已更改为合适尺寸的希望图像,即使在信息处理设备15的处理性能不好并且执行产生重负荷的处理将花费时间的情况下也是如此。
符号说明
10信息处理设备
152图像获取单元
154空间分析单元
156存储单元
158比例基准检测单元
160比例确定单元
162虚拟信息布置单元
164图像生成单元
166图像输出单元
15信息处理设备
20服务器
202空间分析单元
204比例基准检测单元
206比例确定单元
208存储单元
210虚拟信息布置单元
212图像生成单元

Claims (8)

1.一种信息处理设备,包括:
图像获取单元,用于获取真实空间图像;
空间分析单元,用于分析所述真实空间图像的三维空间结构;
比例基准检测单元,用于检测所述真实空间图像中包括的作为比例基准的对象在三维空间中的长度和属性;以及
比例确定单元,用于根据由所述比例基准检测单元检测的所述对象的长度和属性的特性来确定三维空间的比例。
2.根据权利要求1所述的信息处理设备,包括:
存储单元,彼此关联地存储被叠加显示在所述真实空间图像上的虚拟信息以及所述虚拟信息的真实大小;
虚拟信息布置单元,用于在所述真实空间图像上布置所述虚拟信息,所述虚拟信息的大小已被根据由所述比例确定单元确定的比例而调整;以及
图像生成单元,用于生成通过将所述虚拟信息叠加在所述真实空间图像上而获得的输出图像。
3.根据权利要求1所述的信息处理设备,
其中,由所述比例基准检测单元检测的作为比例基准的对象是人。
4.根据权利要求1所述的信息处理设备,
其中,由所述比例基准检测单元检测的作为比例基准的对象是脸。
5.根据权利要求1所述的信息处理设备,
其中,所述比例基准检测单元优先将所述真实空间图像中包含的对象当中被清楚地拍摄的对象用作作为比例基准的对象。
6.根据权利要求1所述的信息处理设备,
其中,所述比例基准检测单元优先将所述真实空间图像中包含的对象当中位置离成像装置近的对象用作作为比例基准的对象。
7.根据权利要求1所述的信息处理设备,
其中,所述比例基准检测单元优先将所述真实空间图像中包含的对象当中在成像装置的水平位置附近的对象用作作为比例基准的对象。
8.一种信息处理方法,包括下列步骤:
获取真实空间图像;
分析所述真实空间图像的三维空间结构;
检测所述真实空间图像中包括的作为比例基准的对象在三维空间中的长度和属性;以及
根据检测的所述对象的长度和属性的特性来确定三维空间的比例。
CN201080054570.9A 2009-12-07 2010-10-28 信息处理设备和信息处理方法 Active CN102792338B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009277850A JP2011118834A (ja) 2009-12-07 2009-12-07 情報処理装置、情報処理方法およびプログラム
JP2009-277850 2009-12-07
PCT/JP2010/069153 WO2011070871A1 (ja) 2009-12-07 2010-10-28 情報処理装置、情報処理方法およびプログラム

Publications (2)

Publication Number Publication Date
CN102792338A CN102792338A (zh) 2012-11-21
CN102792338B true CN102792338B (zh) 2016-06-15

Family

ID=44145424

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080054570.9A Active CN102792338B (zh) 2009-12-07 2010-10-28 信息处理设备和信息处理方法

Country Status (4)

Country Link
US (1) US8891855B2 (zh)
JP (1) JP2011118834A (zh)
CN (1) CN102792338B (zh)
WO (1) WO2011070871A1 (zh)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9495386B2 (en) 2008-03-05 2016-11-15 Ebay Inc. Identification of items depicted in images
EP2250623A4 (en) 2008-03-05 2011-03-23 Ebay Inc METHOD AND APPARATUS OF IMAGE RECOGNITION SERVICES
JP4816789B2 (ja) 2009-11-16 2011-11-16 ソニー株式会社 情報処理装置、情報処理方法、プログラムおよび情報処理システム
US9164577B2 (en) 2009-12-22 2015-10-20 Ebay Inc. Augmented reality system, method, and apparatus for displaying an item image in a contextual environment
US9449342B2 (en) 2011-10-27 2016-09-20 Ebay Inc. System and method for visualization of items in an environment using augmented reality
US9240059B2 (en) 2011-12-29 2016-01-19 Ebay Inc. Personal augmented reality
CN104204994B (zh) * 2012-04-26 2018-06-05 英特尔公司 增强现实计算装置、设备和系统
US20130314443A1 (en) * 2012-05-28 2013-11-28 Clayton Grassick Methods, mobile device and server for support of augmented reality on the mobile device
US10846766B2 (en) 2012-06-29 2020-11-24 Ebay Inc. Contextual menus based on image recognition
JP2014052974A (ja) * 2012-09-10 2014-03-20 Toshiba Corp 情報端末装置、制御方法及び制御プログラム
JP5790692B2 (ja) 2013-03-29 2015-10-07 ソニー株式会社 情報処理装置、情報処理方法および記録媒体
JP6053625B2 (ja) * 2013-07-01 2016-12-27 三菱電機株式会社 情報処理装置及び情報処理方法及びプログラム
JP6375662B2 (ja) * 2014-03-27 2018-08-22 セイコーエプソン株式会社 頭部装着型表示装置
JP6213177B2 (ja) * 2013-11-18 2017-10-18 株式会社リコー 表示処理装置及び表示処理方法
TWI628613B (zh) * 2014-12-09 2018-07-01 財團法人工業技術研究院 擴增實境方法與系統
US10783682B2 (en) 2016-11-02 2020-09-22 United Parcel Service Of America, Inc. Displaying items of interest in an augmented reality environment
JP6242473B1 (ja) * 2016-12-22 2017-12-06 株式会社コロプラ 仮想空間を提供するための方法、および当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
TWI615776B (zh) 2016-12-23 2018-02-21 李雨暹 移動物件的虛擬訊息建立方法、搜尋方法與應用系統
US10868977B2 (en) * 2017-01-16 2020-12-15 Sony Corporation Information processing apparatus, information processing method, and program capable of adaptively displaying a video corresponding to sensed three-dimensional information
US11156471B2 (en) 2017-08-15 2021-10-26 United Parcel Service Of America, Inc. Hands-free augmented reality system for picking and/or sorting assets
US11797910B2 (en) 2017-08-15 2023-10-24 United Parcel Service Of America, Inc. Hands-free augmented reality system for picking and/or sorting assets
WO2019116689A1 (ja) 2017-12-15 2019-06-20 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US11429338B2 (en) 2018-04-27 2022-08-30 Amazon Technologies, Inc. Shared visualizations in augmented reality
US11450352B2 (en) * 2018-05-29 2022-09-20 Sony Corporation Image processing apparatus and image processing method
JP7078989B2 (ja) * 2018-08-22 2022-06-01 国立大学法人信州大学 食育及び栄養の指導・学習支援システムおよび食育教材作成ツール
US10984599B1 (en) * 2018-12-17 2021-04-20 Chi Fai Ho Augmented reality system with display of object with real world dimensions
JP7168526B2 (ja) * 2019-06-28 2022-11-09 Line株式会社 プログラム、情報処理方法、端末
US11080879B1 (en) * 2020-02-03 2021-08-03 Apple Inc. Systems, methods, and graphical user interfaces for annotating, measuring, and modeling environments
JP7354186B2 (ja) * 2021-06-18 2023-10-02 ヤフー株式会社 表示制御装置、表示制御方法および表示制御プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005295163A (ja) * 2004-03-31 2005-10-20 Omron Entertainment Kk 写真プリント装置、写真プリント装置の制御方法、プログラム、および、プログラムを記録した記録媒体
JP2008191751A (ja) * 2007-02-01 2008-08-21 Dainippon Printing Co Ltd 配置シミュレーションシステム
CN101339654A (zh) * 2007-07-04 2009-01-07 北京威亚视讯科技有限公司 一种基于标志点的增强现实三维注册方法和系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07210608A (ja) 1994-01-27 1995-08-11 Omron Corp 販売支援システム
JP2004239965A (ja) 2003-02-03 2004-08-26 Sharp Corp 焦点調節装置、カメラ並びに焦点調節プログラム及びそのプログラムを記録した記録媒体
US20040207743A1 (en) * 2003-04-15 2004-10-21 Nikon Corporation Digital camera system
JP2005094741A (ja) * 2003-08-14 2005-04-07 Fuji Photo Film Co Ltd 撮像装置及び画像合成方法
US8547401B2 (en) 2004-08-19 2013-10-01 Sony Computer Entertainment Inc. Portable augmented reality device and method
EP1970859B1 (en) * 2005-12-28 2014-03-05 Kao Corporation Detecting method and detecting system for positions of face parts
JP4910139B2 (ja) 2006-02-24 2012-04-04 国立大学法人長岡技術科学大学 流水領域検出システム、流水領域検出方法、及びプログラム
US8200011B2 (en) * 2007-09-27 2012-06-12 Behavioral Recognition Systems, Inc. Context processor for video analysis system
JP5239280B2 (ja) 2007-09-28 2013-07-17 カシオ計算機株式会社 撮像装置、撮像制御プログラム及び撮像方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005295163A (ja) * 2004-03-31 2005-10-20 Omron Entertainment Kk 写真プリント装置、写真プリント装置の制御方法、プログラム、および、プログラムを記録した記録媒体
JP2008191751A (ja) * 2007-02-01 2008-08-21 Dainippon Printing Co Ltd 配置シミュレーションシステム
CN101339654A (zh) * 2007-07-04 2009-01-07 北京威亚视讯科技有限公司 一种基于标志点的增强现实三维注册方法和系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于平面重建与自然特征匹配的虚实注册方法;管涛;《光电工程》;20070930;第34卷(第9期);134-138 *

Also Published As

Publication number Publication date
CN102792338A (zh) 2012-11-21
JP2011118834A (ja) 2011-06-16
US8891855B2 (en) 2014-11-18
US20120230581A1 (en) 2012-09-13
WO2011070871A1 (ja) 2011-06-16

Similar Documents

Publication Publication Date Title
CN102792338B (zh) 信息处理设备和信息处理方法
US10789699B2 (en) Capturing color information from a physical environment
US11158128B2 (en) Spatial and semantic augmented reality autocompletion in an augmented reality environment
JP4032776B2 (ja) 複合現実感表示装置及び方法、記憶媒体、並びにコンピュータ・プログラム
US10210423B2 (en) Image match for featureless objects
CN102708355B (zh) 信息处理装置、信息处理方法
CN104077024A (zh) 信息处理设备、信息处理方法及记录介质
US8881982B2 (en) Portable encoded information reading terminal configured to acquire images
EP2378393A2 (en) Image processing system, image processing apparatus, image processing method, and program
CN102792339B (zh) 信息处理装置、信息处理方法
US9087233B2 (en) Security by Z-face detection
US11557080B2 (en) Dynamically modeling an object in an environment from different perspectives
JP2010530998A (ja) 画像ベース情報検索の方法およびシステム
TW201209730A (en) Object detection metadata
US20100142769A1 (en) Information processing apparatus and information processing method
CN110765525B (zh) 生成场景图片的方法、装置、电子设备及介质
US20180314909A1 (en) Detection and recognition of objects lacking textures
CN110163956A (zh) 三维户型图生成方法、装置、设备和存储介质
KR20160096966A (ko) 주변 상황 정보를 통지하기 위한 방법, 전자 장치 및 저장 매체
US20230410361A1 (en) Image processing system, processing method, and non-transitory storage medium
US11659123B2 (en) Information processing device, information processing system, information processing method and program for extracting information of a captured target image based on a format of the captured image
CN112232890A (zh) 数据处理方法、装置、设备及存储介质
US20100273140A1 (en) Apparel dressing system and method for assisting user to try on apparel item
US20220261871A1 (en) Size comparison systems and methods including online commerce examples utilizing same
US20230244713A1 (en) Image processing apparatus, image processing method, and non-transitory storage medium

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant