本申请根据35U.S.C.§119(a)要求于2010年8月25日提交的韩国专利申请No.10-2010-0082696的优先权以及权益,其所公开的内容作为引用而被结合于此以用于各种目的。
具体实施方式
下面将参照附图来对本发明作更全面的描述,其中示出了本发明的实施方式。但是本发明可以以多种不同形式来体现,并不应当被理解为局限于这里提出的实施方式。相反地,提供这些实施方式是为了使得本公开足够全面,并向本领域技术人员充分表达本发明的范围。在附图中,为了清晰起见,可以放大层和区域的大小以及相对大小。在附图中,类似的参考标记指代类似的元件。
在本文中使用的术语仅仅是为了说明特定实施方式,而并非用于限定本发明。正如本文中所使用的,除非上下文清楚指出的其它方面,否则单数形式的“一个”、“一”和“该”意欲包括复数形式。将进一步理解的是,在说明书中使用的术语“包括(comprises)”和/或“包括(comprising)”指定所阐述特征、整数、步骤、操作、元件和/或部件的存在,但是并不排除一个或多个其它特征、整数、步骤、操作、元件、部件和/或他们的集合的存在或添加。可以理解的是,出于本公开的目的,“每个中的至少一者”将被解释为意指遵循各自语言的所列举元素的任意组合,包括多个所列举元素的组合。例如,“X、Y和Z中的至少一者”将被解释为意指仅X、仅Y、仅Z或X、Y和Z中的两个或更多项的任意组合(例如,XYZ、XZ、YZ、XY)。
图1为根据本发明示例性实施方式的增强现实(AR)提供装置。
参照图1,AR装置100可以为移动终端(例如,智能手机)的一部分,该移动终端可以拍摄与AR相关的标记,该标记使得AR被显示在所拍摄的标记的图像上或被显示在可由这样的移动终端执行的AR应用的一部分上。
如果识别出了标记,则AR装置100可以创建替代标记或即时标记,该替代标记或即时标记用作基于任何对象的原始标记的替代品。随后,AR可 以与该替代标记或即时标记一起被应用或显示。例如,如果在AR应用中用户使用智能手机拍摄印在纸上的标记并且在预览屏幕上显示所拍摄的标记,则然后虚拟化身(virtual avatar)可以在预览屏幕上显示该标记处的特定运动。在这种情况下,根据AR装置100,用户可以将原始标记的特性或意义单元映射到任意对象(例如,信用卡或名片)的特性或标记因素上,并且然后将所映射的任意对象用作标记。从而,在预览屏幕上显示任意对象,以便虚拟化身在预览屏幕上所显示的对象上运动。
如图1所示,AR装置100包括第一图像获取单元101、第二图像获取单元102、意义单元分析器103、标记因素提取器104、替代标记创建器105、相关性(correlation)存储器106以及显示器107。
第一图像获取单元101获取用于AR的基本标记的图像。根据当前的示例,该“基本标记”表示可以在纸上打印的常规二维标记等。当第一图像获取单元101拍摄显示在对象的特定部分上的基本标记时,可以获取基本标记的图像。可选地,第一图像获取单元101可以从外部服务器下载基本标记的图像,或者可以从另一终端或装置接收基本标记的图像。
第二图像获取单元102获取对象的图像。该对象可以是用作替代标记的任意对象。例如,第二图像获取单元102可以包括拍摄任意对象的相机模块。该图像可以通过用户指令来检索。
意义单元分析器103分析由第一图像获取单元101获取的基本标记的意义单元。根据一个示例,该“意义单元”可以表示在基本标记和AR应用之间限定的意义因素。例如,基本标记的意义单元可以确定哪个AR被显示或起作用,或者确定AR怎样显示或起作用。换言之,AR应用可以基于基本标记的意义单元的输出,确定以特定方式显示信息。
意义单元可以定义整个基本标记图像或部分基本标记图像中的AR信息。例如,可以通过AR信息被显示的位置来限定部分基本标记,或者通过 AR信息被显示的方向来限定部分,或者限定了表示哪个AR信息或如何表示AR信息的操作的部分,等等。然而,这些仅仅是示例性的,并且除了上述提及的部分以外的其他部分也可以被定义为意义单元。
标记因素提取器104从第二图像获取单元102中提取因素,该因素可以与意义单元分析器103的输出相对应。例如,该因素可以称为标记因素。也就是说,该“标记因素”可以与标记的构成要素相关联,并且可以为区别于其他部分的特性图样、形状或颜色,或者可以是区别于其他部分的特性因素之间的位置关系或相关性,等等。
根据一个示例,标记因素提取器104可以基于第二图像获取单元102获取的对象图像来将对象的形状提取作为标记因素。
作为另一示例,标记因素提取器104可以识别图像的对象中的字符或图形(picture),并且将所识别的字符或图形提取作为标记因素。
作为另一示例,标记因素提取器104可以提取与图像的对象有关的形状或颜色。标记因素提取器104可以通过将对象图像分成多个网格单元、使用网格单元的像素值的平均值来计算每个网格单元的网格值以及将具有相似网格值的网格单元分组来提取形状因素。
可以使用多种技术来确定标记因素。因此,除了本文公开的技术之外,也可以使用其他技术。
替代标记创建器105通过将意义单元分析器103的输出映射到标记因素提取器104的输出来创建替代标记。相应地,在当前示例中,该“替代标记”与基本标记相对应,并且可以意指可以替代基本标记的二维或三维对象。
在替代标记创建器105将意义单元分析器103的输出映射到标记因素提取器104的输出之后,相关性存储器106存储映射关系或相关性。例如,相关性存储器106可以存储指示哪个意义单元被映射到对象的哪个标记因素的信息。
显示器107使用由替代标记创建器105创建的替代标记和存储在相关性存储器106中的相关性来基于要与替代标记的使用一起被显示或被执行的基本标记显示和执行AR。例如,显示器107可以使用替代标记来显示与基本标记相关的AR。
而且,可以根据用户选择的选项,基于由第一图像获取单元101获取的基本标记或者基于替代基本标记的替代标记来实现特定AR。如果通过替代标记来实现AR,则可以通过提供用于通知将被用作替代标记的对象图像准备好被输入的通知消息来创建替代标记,以及将基本标记图像映射到对象图像可以发生。因此,接收到的AR信息不但以基本标记为基础,还以替代标记或即时标记为基础。
图2A和图2B示出了根据本发明示例性实施方式的基本标记和该基本标记的意义单元。
如图2A所示,基本标记201是计算机或终端可读的二维图像代码。基本标记201的图像可以从所拍摄的图片提取,或者例如通过服务网络下载。
如图2B所示,所示的基本标记201包括5个意义单元210、220、230、240和250。第一意义单元210与基本标记201的图像相对应,并且是如果基本标记201被识别则指示是否执行AR信息(或虚拟图像)的部分。第二意义单元220是如果存在要被执行多条AR信息则指示AR信息的种类的部分。第三意义单元230是指示AR信息的显示位置的部分。第四意义单元240是指示AR信息的显示方向的部分。第五意义单元250是确定与AR信息相关的操作的部分。例如,如果与第五意义单元250相对应的特定行为(诸如触摸一设备)被执行,则虚拟图像可以执行操作(例如,AR信息的旋转、反转、缩小等)。
如图2A和图2B所示,可以在基本标记201中表现各种意义单元210、220、230、240和250,其中预先定义与基本标记201相关联的每一意义单 元和与基本标记202相对应的AR应用。
图3A和图3B示出了根据本发明示例性实施方式的替代标记和该替代标记的标记因素。
如图3A所示,替代标记301可以为信用卡。因此,用户可以使用基本标记201(见图2A)或信用卡301作为观看AR信息的介质。
如图3B所示,信用卡301的将信用卡301用作替代标记的标记因素可以是与其他部分相区别的特定字符区域310、特定图形区域320或特征部分330。从某个对象(诸如信用卡301)中被提取作为标记因素的这些部分可以依赖于期望的用途而变化。因此,图3B所示的标记因素310、320和330仅仅是示例性的。
图4示出了根据本发明示例性实施方式的基本标记和对象的标记因素之间的映射关系。
参照图4,基本标记401的图像中的意义单元402和403被分别映射到对象404的图像中的标记因素405和406。然后,存储意义单元402和403与标记因素405和406之间的映射407和408。因此,对象图像404可以被用作替代标记。换言之,通过允许用户在与移动终端相关联的预览屏幕上显示被指定为替代标记的信用卡,AR可以使用信用卡的被显示的图像来实现。
在图4所示的示例中,意义单元与标记因素之间的映射可以改变。例如,可以基于意义单元与标记因素之间形状或颜色的相似性来执行映射,或者基于分配给单个标记因素的权重或优先级来顺序地执行映射。但是,这些仍然仅仅是示例性的,并且各种映射方法可以被实现。
图5为示出了根据本发明示例性实施方式的用于提供增强现实(AR)的方法的流程图。
该方法可以在向用户询问是否使用替代标记来实现AR之后开始。
参照图5,获取基本标记的图像(501)。图1所示的第一图像获取单元 101可以通过拍摄基本标记或下载基本标记图像201来获取如图2A中所示的基本标记的图像201。
获取对象的图像(502)。图1所示的第二图像获取单元102可以通过拍摄诸如信用卡之类的特定对象来获取如图3A所示的对象图像301。
在上述步骤之后,分析基本标记的意义单元(503)。意义单元分析器103可以分析如图2B所示的基本标记的意义单元。
然后,从对象图像中提取与基本标记的意义单元对应的标记因素(504)。图1所示的标记因素提取器104可以提取如图3B所示的标记因素310、320和330。
然后,可以将基本标记的意义单元映射到对象的标记因素,以便创建替代标记(505)。图1所示的替代标记创建器105可以执行如图4所示的映射以创建替代标记。
可以以多种方式来执行意义单元和标记因素之间的映射。例如,还可以使用任意映射。任意映射可以被定义为随机选择标记因素,并且然后将意义单元映射到所选的标记因素。作为另一示例,可以基于意义单元和标记因素之间的相似性来执行映射。例如,能够将所选的意义单元映射到在形状、位置或颜色方面与该意义单元具有相似性的标记因素。
在创建替代标记之后,可以存储意义单元和标记因素之间的映射。可以在图1所示的相关性存储器106中存储该信息。
该方法进一步包括基于所创建的替代标记来实现AR的操作。例如,图1所示的显示器107可以使用所创建的替代标记和所存储的相关性来提供与初始基本标记相对应的AR。
图6是根据本发明示例性实施方式的用于解释提取标记因素的视图。
参照图1和图6,标记因素提取器104将对象602的预览屏幕分成网格单元,其中每个网格单元可以具有基准尺寸。然后,标记因素提取器104以 从在图像数据方面具有较大变化的网格单元到在图像数据方面具有较小变化的网格单元的顺序来排列网格单元。然后,每个网格单元可以被提取作为标记因素。在标记因素提取的另一示例中,如果网格单元及其邻近的网格单元之间的数据变化量小于阈值,则这些网格单元可以被看作是同一网格单元。
然而,可以使用除了上面参照图6描述的方法之外的多种方法来从图像中提取特定部分以形成替代标记。例如,网格单元中的特定形状或格式可以被提取作为标记因素。如果对象602具有主色,即形成该对象的主要部分的颜色,则具有与主色不同的颜色的部分可以被提取作为标记因素。如果在对象中无主色存在,则可以任意指定该对象的特定区域,且将该区域的颜色与其邻近区域的颜色相比较,之后,该比较可以提示标记因素的提取。
而且,对象的可以用作替代标记的特定颜色可以被提取作为标记因素。例如,如果从某个对象中识别出红色、黄色和蓝色,则红色、黄色和蓝色可以被分别映射到原始标记的A部分、B部分和C部分。
如果标记因素被提取,则可以分析指示所提取的标记因素的数量的信息。例如,当基于形状的L个标记因素和基于颜色的M个标记因素被提取,优先级可以被分配为首先映射L个标记因素并然后其次映射M个标记因素。如果标记因素的全部总量L+M不足以映射在原始标记上识别到的全部意义单元,则可以显示用于指示可以输入另一对象图像来达到L+M数量的消息。
图7示出了根据本发明示例性实施方式的用户界面屏幕。
参照图7,用户界面屏幕可以包括在其上显示基本标记的列701、在其上显示关于基本标记的简要信息的列702以及在其上显示替代标记的列703。关于基本标记的简要信息可以是与基本标记对应的AR应用的名称或关于基本标记的意义单元的信息。
在图7的示例中,用户可以触摸在其上显示替代标记的列703来选择期 望的替代标记,并且如果期望的替代标记被选择,则执行基本标记的AR应用,其中所选择的替代标记与该基本标记相映射。
而且,如果有多个替代标记,则用户或许期望获知与AR应用的相关性。因此,与它们对应的AR应用有关的替代标记可以以列表或缩略图或文件夹形式显示。
图8为根据本发明示例性实施方式的用于解释将基本标记映射到对象的视图。
参照图8,将被用作替代标记的对象被分成区域M1、M2和M3。区域M1、M2和M3中的每个区域可以被映射到基本标记。例如,如图8所示,第一基本标记810被映射到第一区域M1,第二基本标记820被映射到第二区域M2,以及第三基本标记830被映射到第三区域M3。如果多个基本标记被映射到一个对象,则可以针对各个区域M1、M2和M3来单独提取替代标记的标记因素。
图9为根据本发明示例性实施方式的用于解释将基本标记映射到对象的视图。
参照图9,第一基本标记901映射到对象的第一部分910,而第二基本标记902映射到对象的第二部分920。第二部分920相对小于第一部分910。如果对象以其原始尺寸在预览屏幕上显示则可以识别第一部分910,而如果对象在预览屏幕上被放大则可以识别第二部分920。因此,如果在原始尺寸期间查看,则与第二部分920对应的替代标记可以被用作隐藏标记(hiddenmarker)。
图10为根据本发明示例性实施方式的用于解释将基本标记映射到对象的视图。
参照图10,第一基本标记1001映射到对象的第一部分1002,而第二基本标记1003映射到对象的第二部分1004。第一基本标记1001代表虚拟对象 1005的AR,而第二基本标记1003代表虚拟对象1006的AR。因此,如果用户使用第一基本标记1001和第二基本标记1003与其映射的替代标记1007来实现AR,则在显示器1008上可以出现引起虚拟对象1005和1006的显示的已执行的AR。
作为另一示例,如果对象中有多个映射点,则通过将各种基本标记映射到该对象来创建替代标记是可能的。例如,在诸如模具(die)(它的各个面具有不同的特性)的三维对象的情况下,不同的基本标记可以被映射到该模具的各个面。而且,在书的情况下,可以以向书的每一页分配基本标记的方式来创建替代标记。
图11示出了根据本发明示例性实施方式的三维标记。
参照图11,与船相关的基本标记1101被映射到三维对象1102。三维对象1102的图像或者三维对象1102的不同部分可以通过图像获取单元(诸如相机或文件)来获取。三维对象1102不但具有正视图像,还具有上、下、左和右属性。从而,该三维对象1102的上、下、左和右属性可以根据船的上、下、左和右属性而被映射。例如,当与船相关的基本标记1101被映射到杯子1102时,用户可以以如下方式来实现AR:在预览屏幕上显示杯子1102并拍摄杯子1102的上面、下面、左面和右面,以便根据拍摄的方向来显示船的上面、下面、左面和右面。存在着原始标记为二维图像而AR信息为三维图像的情形。在这种情况下,在使用原始标记来实现AR图像时存在局限性。然而,如图11所示的示例那样,通过将二维标记映射到三维对象且将那个三维对象用作替代标记,具有三维属性的AR可以提供更强的查看能力或用来操作船的被显示图像的能力。
图12示出了根据本发明示例性实施方式的三维标记。
参照图12,与建筑图相关的基本标记1201被映射到诸如杯子1202之类的三维对象。如果该建筑为三层建筑,则杯子1202的底部代表该建筑的第 一层1203,杯子1202的中间部分代表该建筑的第二层1204,而杯子1202的上部代表该建筑的第三层1205。这样,如果诸如杯子1202之类的三维对象被用作替代标记,则可以根据三维对象的各种属性(例如,杯子1202的特定面,画在特定面上的各种图形等)来显示附加信息和原始AR。因此,三维可操作性和杯子1202的形状可以向用户提供更强的查看能力或用来操作3-D对象的被显示图像的能力。
如上所述,在根据上述示例的用于提供AR的AR装置和方法中,由于创建了能够替代基本标记的替代标记并且使用该替代标记来实现AR,所以能够在不存在基本标记并且替代标记还用来实现扩展的AR的情况下实现AR。
同时,上述示例可以被实现为计算机可读记录介质中的非短暂性计算机可读代码。计算机可读记录介质包括存储计算机系统可读的数据的各种类型的记录设备。
计算机可读介质的示例包括ROM、RAM、CD-ROM、磁带、软盘、光盘等等。而且,可以以载波(例如,通过因特网传输)的形式实现计算机可读介质。此外,计算机可读存储介质可以分布在通过网络连接的计算机系统之中,并且计算机可读代码或程序指令可以以分布方式进行存储和执行。而且,用于实现本发明的功能程序、代码和代码段可以由本发明所属技术领域中的编程人员容易地解释。
上面已经描述了多个示例。尽管如此,应该理解的是,可以做出各种修改。例如,如果以不同的顺序来执行所描述的技术和/或如果所描述的系统、结构、设备或电路中的部件以不同方式组合和/或由其他部件或它们的等同替换来替换或补充,则可以达到适当的结果。因此,其他实现方式落入了下述权利要求书的范围。
本领域技术人员应当明白,在不偏离本发明的实质或范围的情况下,可以对本发明进行各种修改和变形。因此,本发明意欲涵盖在所附权利要求及其等同的范围内所提供的本发明的修改和变形。