CN102822848A - 对用于立体视觉的眼镜进行识别的设备和方法以及控制立体视觉视频流的显示的相关方法 - Google Patents
对用于立体视觉的眼镜进行识别的设备和方法以及控制立体视觉视频流的显示的相关方法 Download PDFInfo
- Publication number
- CN102822848A CN102822848A CN2011800054383A CN201180005438A CN102822848A CN 102822848 A CN102822848 A CN 102822848A CN 2011800054383 A CN2011800054383 A CN 2011800054383A CN 201180005438 A CN201180005438 A CN 201180005438A CN 102822848 A CN102822848 A CN 102822848A
- Authority
- CN
- China
- Prior art keywords
- glasses
- image
- stereoscopic vision
- equipment
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/337—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using polarisation multiplexing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/341—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using temporal multiplexing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/356—Image reproducers having separate monoscopic and stereoscopic modes
- H04N13/359—Switching between monoscopic and stereoscopic modes
Abstract
本发明涉及立体视觉显示系统。其描述了一种用于立体视觉眼镜的识别的方法,其中从同一观察点获取屏幕前方环境的两个图像。进而通过从所述两个图像中的一个中减去另一个来计算差分图像,并且在所述差分图像内检测两个镜片的存在。本发明还涉及一种通过使用所述用于眼镜识别的方法来控制立体视觉图像的显示的方法。允许实现所述方法的设备也被描述。
Description
本发明一般地涉及立体视觉显示系统。本发明具体地涉及根据权利要求1的前序部分的对用于立体视觉的眼镜进行识别的方法,以及涉及使用这样的方法以控制立体视觉图像或视频流的显示的显示系统。
如已知的那样,通过使用与同一对象的对应视角(perspective)相关的两个图像来获得立体视觉,所述视角典型地为右视角和左视角。
与这两个视角相关的图像(典型地被称为右图像和左图像)分别被用于右眼和左眼,使得人脑将把这两个视角一起整合成被感知为三维的一个图像。
所述右图像和左图像能够通过使用合适的获取系统(带有两个物镜或一对摄像机的所谓的“立体视觉摄像机”)来获得或者通过从第一图像(例如左图像)开始并且进而通过电子方式(通过数值处理)构建另一图像(例如右图像)来获得。
到目前为止已开发了许多允许享受通过立体视觉图像所传送的3D内容的技术。
第一种已知的技术使右图像的可视化与左图像的可视化随时间交替。
然而,这种技术具有如下缺点,即用户必须佩戴主动式眼镜(也称为“快门式眼镜”),其交替地遮蔽右眼或左眼,使得每个眼睛仅能看到与给定视角关联的图像。
根据另一种已知的技术,通过不同偏振的光来投影右图像和左图像。这可以例如通过适当地处理电视机的屏幕或者通过在投影仪中使用合适的滤光器来获得。
在这种情况下,用户也必须佩戴配备有不同偏振的镜片的合适的眼镜(在这种情况下为被动式眼镜),每个所述镜片仅允许右图像或左图像通过。
在这两种情况下,如果用户试图在不佩戴这些特殊的眼镜(在下文中称为立体视觉眼镜以将其区别于普通的验光眼镜)的情况下观看视频流,则视觉将被干扰并且模糊不清,导致用户的眼睛变得疲劳,这可能导致头痛。
出于这个原因,存在允许用户手动地选择单一视觉(2D)或立体视觉(3D)的用于显示3D视频和图像的系统。因此,如果用户想要观看3D内容,则他/她将戴上立体视觉眼镜并且选择3D显示模式;否则,他/她将选择2D显示模式并且将不需要佩戴立体视觉眼镜。
另一方面,用户的手动调节限制了立体视觉设备的使用的灵活性,这是因为可能发生如下情况:即例如由于身体缺陷或者由于显示设备的位置或者由于显示设备使用复杂,导致用户在切换视频信号显示模式时有困难。
为了解决这个问题,一些已知的立体视觉系统被自动地控制。
例如,专利JP2001326949A和JP2008171013A描述了在用户佩戴用于立体视觉的主动式眼镜的同时,允许他/她进行其他活动的设备。这些系统使用安装在眼镜上的摄像机,当该摄像机指向屏幕时,其识别屏幕并且向眼镜的控制单元输出信号,眼镜进而被激活。当用户没有观看屏幕时,眼镜被去激活,即两只眼镜都没有被遮蔽。
这些设备具有需要装有动力的配备有摄像机的立体视觉眼镜的缺点,这些眼镜复杂、笨重并且昂贵。
此外,这些专利所提出的解决方案需要用户始终佩戴眼镜,因为视频信号始终以立体视觉模式被显示。因此,这些解决方案没有对如何在用户不佩戴立体视觉眼镜时显示视频信号的问题提供解决方案。
专利JP1093987A描述了一种能够基于从布置在屏幕上的传感器接收的信号在单一视觉与立体视觉之间自动地切换其自身的设备,所述传感器检测由立体视觉眼镜上的红外光源发出的辐射;因此,视频信号仅在佩戴立体视觉眼镜的用户面对屏幕时才以立体视觉模式被显示。该设备具有眼镜需要用于红外光源的特定电源并且因此既复杂又昂贵的缺点。
本发明的目的是提供解决现有技术的问题的设备和方法。
特别地,本发明的目的是提供一种允许识别立体视觉眼镜在显示3D内容的屏幕前方的环境中的存在的方法,所述屏幕例如为立体视觉视频流被投影或显示的地方。
本发明的目的还在于提供一种允许在不需要对立体视觉眼镜本身进行任何改变或者至少不需要进行庞大的和/或成本高的改变的情况下检测眼镜的存在的方法。
本发明的另一个目的是提供一种允许有效地控制立体视觉内容显示设备的方法以及关联的设备。
本发明的另外的目的是提供一种允许根据对立体视觉图像在其上被显示的屏幕前方的环境的分析来控制视频流的显示模式的方法以及关联的设备。
本发明的还有另一个目的是提供一种用于以尽可能接近坐在立体视觉视频内容在其上被显示的屏幕前方的人的意图的方式来控制立体视觉视频流的显示的方法。
本发明的这些及其他目的通过结合了在所附权利要求中所阐述的特征的设备和方法得以实现,所述特征意在作为本说明书的主要部分。
在本发明的基础上的总的构想是提供一种用于立体视觉眼镜的识别的方法,其中从同一观察点获取投影图像前方的环境的至少两个图像,以框定(frame)一个或多个用户。通过利用立体视觉眼镜的特性(镜片偏振或交替的眼睛遮蔽),借助于所述两个图像之间的比较来识别这些眼镜的存在。
本文所描述的方法通过一种设备来实现,该设备包括获取图像的至少一个传感器以及用于适当地处理所述图像的装置。
该解决方案克服了现有技术的缺点,因为眼镜在不需要使用安装在眼镜上的摄像机或其他主动式元件(例如光源)来检测它们的存在的情况下被检测到。
这样的检测还提高了立体视觉显示系统的使用的灵活性,因为其允许一种显示模式根据立体视觉眼镜是否存在于由传感器框定的环境中而自动地被选择。例如,所述方法允许在单一视觉与立体视觉之间自动地进行切换。另外,在其中图像对在本地被生成的那些系统中,所述方法允许立体视觉图像的深度根据传感器所检测到的条件被调节。
通过使用不同的图像获取模式(例如以预设的时间间隔或通过偏振光),本文所提出的构想允许对偏振镜片眼镜(具有圆偏振或线偏振)和主动式眼镜(例如“快门式眼镜”)两者的检测。因此,显而易见的是,本文所公开的解决方案在使用灵活性方面提供了显著的优点。
另外有利地,该眼镜检测方法能够例如通过将人的面部的位置与眼镜的位置进行比较来检测眼镜是否被佩戴。因此,能够更准确地选择用户最有可能期望的显示模式。
例如,如果眼镜位于桌子上,则这意味着用户希望以单一视觉模式(2D)观看视频,并且因此该显示模式将被选择;反过来,如果眼镜被佩戴,则显然用户希望观看3D视频;在这种情况下,立体视觉显示模式将被选择。
在进一步有利的实施例中,所述方法能够检测是否所有用户都佩戴用于立体视觉的眼镜。因此,如果仅一些用户佩戴立体视觉眼镜,则将不会过多干扰没有佩戴这样的眼镜的那些用户的视觉的显示模式(例如2D)将被选择,和/或将向观众显示合适的消息。例如,在一个实施例中,如果输入信号是立体视觉信号并且没有人佩戴眼镜,则将生成建议使用眼镜的消息,并且该信号将以2D格式显示;如果仅一些观众佩戴眼镜,则将生成类似消息来建议没有佩戴眼镜的那些观众将眼镜戴上。由此生成的消息可以是视觉的和/或声音的,并且可以使用OSD(屏上显示)技术来显示重叠在视频上的字符或图形符号,或者所述消息可利用诸如在屏幕外部的忽明忽灭的灯的发光信号。本发明的另外的目的和优点将从下文对本发明的若干优选实施例的详细描述中变得更加显而易见,其中将对附图进行参照,所述附图通过非限制性地举例的方式被提供,其中。
图1是根据本发明的设备所捕获的场景的示例的示意性图像。
图2示出了根据本发明的设备的第一实施例。
图3示出了根据本发明的设备的第二实施例。
图4示出了根据本发明的设备的第三实施例。
图5示出了根据本发明的方法的第一实施例。
图1的示例示出了表示典型地在屏幕前方得到的场景的图像100,所述场景即用户1坐在沙发上。用户1佩戴立体视觉眼镜2以观看立体视觉内容(图像或视频)。
图1的图像100是立体视觉内容在其上被显示的屏幕前方的环境的图像,所述屏幕例如为电视机的屏幕或图像被投影在其上的薄板。
图像100通过位于屏幕附近并且面对坐在屏幕前方的用户1的摄像机设备获取。因此,摄像机设备将从正面拍摄屏幕前面的环境。这种拍摄视角是优选的,因为用户有可能佩戴的立体视觉眼镜被从正面框定,并且因此摄像机设备所看到的镜片面积比在从侧向拍摄环境的情况下大。
可替代地,摄像机设备可以被布置在不同的位置上,甚至远离屏幕,但无论如何,其优选地应框定屏幕前方的环境。
在这两种情况下,优选并且有利的是提供具有照亮环境的合适的红外光源的摄像机设备,以根据下文所描述的方法来改进环境图像的进一步处理。图2示意性地示出了获取图像100的摄像机设备3的第一实施例。
设备3包括物镜4,该物镜4如前面参照图1所描述的那样框定图像100的场景。
所框定的图像100进而被传送到分束器5,分束器5产生两个独立的光路。沿着第一光路6a的图像被第一偏振器7过滤,使得由偏振器发出的辐射在第一方向上被偏振,所述第一方向例如为正交于传播方向的水平方向,或者根据圆偏振被偏振,例如沿逆时针方向。沿着第二光路6b的图像在被分束器5输出后被反射镜8反射并且被第二偏振器9过滤,该第二偏振器9能够使入射辐射在不同于(并且优选地正交于)所述第一偏振方向的第二偏振方向上偏振,或者根据与前述圆偏振相反的圆偏振使入射辐射偏振,即沿顺时针方向。在图2的示例中,由偏振器9输出的发光辐射垂直地(图2中的z方向)被偏振。
所述设备还包括两个图像传感器10和11,每个传感器检测沿两个不同的光路6a和6b到达的图像中的一个。这两个传感器可以例如是CCD传感器或使用适用于检测光、或一般而言为发光辐射、特别地为可见光或红外辐射的目的的任何其他技术的传感器。
通过这样做,获得了在同一时刻从同一观察点被捕捉的两个图像,其中一个图像已被第一偏振器7过滤,而另一图像已被第二偏振器9过滤。
由图像传感器10和11获取的图像进而被转换成电信号并且被传送到装置12,该装置12将根据稍后将描述的方法对所述电信号进行处理。所述装置12优选地由处理器或微控制器构成,但它们可包括一个或多个连接的、集成的或互连的电子设备,这些电子设备能够根据下面的进程对接收自图像传感器10和11的图像进行比较。
设备3允许利用偏振镜片技术来检测用于立体视觉的眼镜的存在。为此,偏振滤光器7和9允许使光在由电视机或投影仪显示并且被用户观看的左图像和右图像的两个偏振方向上偏振。偏振滤光器因此将具有与眼镜2的两个镜片相同的偏振能力。
在替代实施例中,为了获取同一环境的两个偏振图像,摄像机设备配备有例如红外类型的光源,该光源借助于在图像的两个偏振方向上的偏振光来照亮场景。这例如通过布置在与立体视觉眼镜的镜片相同类型的两个偏振滤光器后面的两个红外LED来获得。作为替代,能够想到使用能够移动具有非偏振光源的两个偏振滤光器的机械系统,以获得偏振光在由这两个滤光器确定的两个不同模式中的交替。这样的系统可例如包括轮盘,其具有分别覆盖一半轮盘面积的两个滤光器;当轮盘转动时,由非偏振源发出的光被这两个滤光器交替地偏振。在该实施例中,摄像机设备可以如在图2中那样配备有分束器,以在同一时刻但是用不同的偏振获取环境的图像。可替代地,摄像机设备可以被简化,并且使用单个图像传感器而不使用分束器。在这样的情况下,照亮环境的两个LED交替地被控制,并且在两个不同时刻被捕获的两个图像被获取。通过使环境的照亮迅速交替(以几十或几百毫秒),能够对两个图像进行比较以用于检测立体视觉眼镜的目的,如将在下面进一步解释的那样。其中用根据两种不同偏振的偏振光照亮场景的这种替代实施例适用于被动式眼镜的情况;在这样的情况下,在设备内不需要沿(一个或多个)光路的偏振器。在该实施例中,必须特别小心以避免到异物(即除了立体视觉眼镜以外的物体,如沙发、桌子、花瓶、地板)上的反射,所述反射可能影响光偏振并且导致镜片在场景中的受干扰的检测。
图3的示例示出了摄像机设备的另外的实施例。与图2所示的那些相同的项目用相同的标号来指示。
在该实施例中,摄像机设备3'仅包括单个图像传感器。由物镜4捕获的光被分束器5分成两个光路6a和6b;随后,沿这两个光路布置的偏振器7和9使入射辐射偏振并且输出在图像传感器13的两半中会聚的两个偏振图像,图像传感器13的输出进而被传送到适于对其进行处理的装置12'。
该变型带来设备的紧凑性并且允许减少其部件的数量。
图4示出了摄像机设备的另一个实施例。
摄像机设备3''包括物镜4,该物镜4框定前面参照图1所描述的场景。输入图像直接被传送到图像传感器14,该图像传感器14以同步装置15所设定的频率获取图像。该图像获取频率与立体视觉图像显示频率或其整数倍对应,例如50Hz,使得图像每五十分之一秒被获取一次。优选地,同步装置15内置在显示被用户1观看的图像或视频流的电视机或投影仪中或者与其相连,使得所述图像与右图像和左图像的可视化同步地被获取。
图像传感器14所获取的图像被传送到装置16,该装置16进而根据稍后将描述的方法对它们进行处理。
只要用于立体视觉的“快门式”主动式眼镜的存在要被检测,该设备3''都特别适合。实际上,在各种获取时刻,该设备能够检测眼镜2的每个镜片的打开和/或闭合程度的差异。
如果同步装置15与右图像和左图像的可视化同步,则它们也将与“快门式”眼镜同步,而“快门式”眼镜如已知的那样与电视机或投影仪同步,使得右眼将始终看到右图像,而左眼将始终看到左图像。以这种方式,设备3''始终框定一个闭合(关闭)的镜片和一个透明(打开)的镜片,但在两次连续的框定中,在第一次框定中闭合的镜片将在第二次框定中打开,而在第一次框定中打开的镜片将在第二次框定中闭合。
因此,在由设备于不同时刻相继捕获的不同图像中,在所捕获的第一图像中闭合的镜片将在第二图像中打开,而对于眼镜的另一个镜片则将发生相反的情况。
在一个实施例中,摄像机设备3''包括例如红外类型的光源,该光源通过以与图像获取的频率相同的频率的光脉冲发射来照亮场景。可替代地,可借助于以图像获取频率的整约数(submultiple)的频率或始终等于设备拍摄频率的频率的光脉冲发射来照亮场景。所述光源因此优选地由同步装置15控制。
在另外的实施例中,摄像机设备3''包括例如红外类型的光源,该光源通过保持始终开启来照亮场景,即不采用时间脉冲。
在该实施例中,光源优选地在照亮条件被认为不利时适当地借助于设备3''以选择性的方式被激活。相反地,如果场景的自然照亮是充分的,则光源将保持关闭。因此,该实施例结合了构造简易性(光源非脉冲发射)与低能耗(光源仅在必要时才开启)。
在所有上述实施例中,摄像机设备都允许实现用于检测立体视觉眼镜和用于控制立体视觉的方法。
图5示出了所述方法的第一实施例的各个步骤,为了清楚起见将参照摄像机设备3来描述该实施例。
设备3获取图像51和52,该图像51和52与偏振器7和9所过滤的两个图像对应。图5突出了用户所佩戴的偏振立体视觉眼镜的左镜片与右镜片之间的区别。在图像51中,左镜片是黑暗的(dark),而在图像52中,该同一镜片是透明的(transparent)。这是因为当光穿过偏振滤光器时,具有相同偏振的镜片将是透明的,而另一个镜片由于其不同的偏振而将是黑暗的。
如果眼镜是主动式的(例如“快门式”眼镜)并且图像在不同时刻被获取,则将获得相同类型的图像51和52,如前面在对图4的设备3''的描述中所解释的那样。
在这两种情况下,在获取了两个图像51和52之后,用于对立体视觉眼镜的存在进行识别的方法规定对所述图像进行比较,以检测它们之间的差异。
在一个实施例中,将图像51从图像52中减去(当然也可进行相反的操作,即可将图像52从图像51中减去)。
如已知的那样,图像由多个像素构成,这些像素的RGB值由一系列的比特表示;因此,将两个图像相减等同于将一个图像的像素的RGB值从另一个图像的对应像素的RGB值中减去。
这种差分的结果是这样的图像:即除了被立体视觉眼镜的镜片占据的区域之外,该图像的像素在各处均具有几乎为零的值。在这些区域中,将分别有正值和负值,与所述两个镜片对应,如图像53所示,而图像53的剩余部分将完全为零(在此处以黑色示出)。
在差分图像53的示例中,该图像的未被镜片占据的部分完全为零,因为图像51和52是完全一致的。
显然,在实际情况下,彼此相减的图像可能由于噪声或其他干扰而甚至在未被镜片占据的区域中也稍有不同。明显地,在这种情况下,差分图像的其中像素的RGB值接近零的部分将被认为是实际为零,而差分图像中被镜片占据的区域将具有预定阈值以上的更高RGB值。
必须指出的是,在其中两个图像在不同时刻被捕获的情况下(例如对于前面参照图4所描述的快门式眼镜的情况),这两个图像由于可能的观众移动而不能够完全重叠。然而,在下面将要描述的接下来的步骤中,眼镜图案仍将被识别,这是因为移动导致的差异能够再现与眼镜产生的图案相似的图案是完全不可能的。
在一个实施例中,为了避免其中观众移动可能损害测量结果的情形,所述方法规定基于两个所获取的图像中的对应像素之间的差的平方和来估算置信指数,从而了解这两个图像彼此不同的程度有多大。这样的指数可以例如是这两个图像的一部分或所有像素的差的平均值或者超过某个预定阈值的差的数量。
如果置信指数超过预先限定的值(例如根据经验计算得到的值),则测量结果将被忽略并且在置信指数返回所述阈值以下之前将不生成指示眼镜存在的信号,置信指数返回所述阈值以下意味着场景中的观众所佩戴的眼镜的镜片的移动已大体上停止。
在还有另一个实施例中,为了避免其中观众移动可能损害测量结果的情形,作为上述内容的替代或补充,所述方法规定借助于已知的移动检测技术,即对象追踪技术来检测用户的移动。以这种方式,在图像内检测到用户的面部或被检测的镜片的移动是有可能的。因此,能够估计镜片在后续图像中的平移,将其与眼镜在所框定的场景中的存在相关联。
返回参照用于眼镜识别的方法,在计算差分图像之后,所述方法执行在差分图像内识别眼镜的步骤。
在一个实施例中,通过检测两个镜片在差分图像内的存在来检测眼镜。在一个实施例中,当存在数量超过预定值的一组邻接的非零像素时,镜片被检测到。在另一个实施例中,通过将一组邻接的非零像素与预先限定的镜片图像进行比较来检测镜片。
在一个实施例中,借助于图案研究或例如像Haar的技术说明的图像处理技术来识别镜片所占据的区域中的图案。该方法可以例如通过使用诸如OpenCV(“开放的计算机视觉”)库的本身已知的软件库来实现,所述软件库含有人工视觉算法的若干实现。
为了在差分图像内识别镜片的目的,有利的是通过评估所述方法对于可能在立体视觉图像的观察期间出现的各种场景拍摄条件(例如不佳地照亮的场景、眼镜上的掠射光的存在等)的准确性而将镜片形状的适当容差考虑在内。
在不存在眼镜的情况下,两个图像51和52将大体上一致;因此,差分图像53将完全为零,并且摄像机设备的处理器(例如装置12、12'或16)将检测到眼镜的不存在。
如果存在两个传感器,或者如果摄像机设备的光学器件没有完全对准,则两个所获取的图像不能直接重叠。为了改进眼镜的检测,所述方法包括确保图像的最佳对准和线性度的初始校准步骤。
在优选实施例中,在已经识别出立体视觉眼镜的存在(或不存在)之后,摄像机设备输出表示眼镜的存在或不存在的信号。
参照图2、3和4,这样的信号由从装置12、12'和16离开的箭头指示,所述装置12、12'和16负责所述信号的生成。在一个实施例中,用于立体视觉眼镜识别的设备是独立于显示系统(电视机,机顶盒,投影仪等)的设备,并且该设备包括传输装置(在图2至图4中未示出),该传输装置允许指示立体视觉眼镜的存在的信号被传送到显示系统。信号从眼镜识别设备的传输可以通过使用标准化的通信模式和协议(USB、蓝牙、Wi-Fi、以太网等)或私有协议而以有线或无线方式发生。显示系统因此设置有用于接收和解码这样的信号的装置以及适于基于所接收的信号控制3D内容的显示的装置,如下所述。
当然,眼镜识别设备可以集成到显示系统中;在这样的情况下,用于检测眼镜的存在的同一装置还可以控制3D图像的可视化;例如,所述信号可以被用于从单一视觉向立体视觉的切换(或者从立体视觉向单一视觉的切换)。
因此,通过使用根据上述方法的眼镜检测系统,实现用于控制图像和/或视频流的显示的方法是有可能的,其中通过仅在用户佩戴立体视觉眼镜时才显示立体视觉图像来自动地选择最符合用户期望的显示模式。这提高了立体视觉图像显示设备的使用灵活性。
在另外的实施例中,除了如前所述的那样检测眼镜的存在之外(即对用不同偏振光拍摄或在不同的预定时刻拍摄的两个图像进行比较),所述方法还检测人的头部在图像内的存在。
更优选地,所述方法能够检测面部的存在。
该面部检测借助于在安全和视频监视领域中常用的本身已知的面部识别技术来获得。
优选地,仅在两个所获取的图像中的一个上检测面部,以减少检测过程的处理时间和计算成本。
所述方法优选地规定检测由面部占据的区域。
面部识别步骤和眼镜识别步骤可并行地或以任何顺序执行。
进而,将面部在图像中的位置与镜片的位置进行比较。
通过面部位置与镜片位置之间的比较,立体视觉眼镜是正由用户佩戴还是仅被放在处于由设备所框定的这样的位置上的一件家具或沙发上被检测。所述方法的该步骤还可优选地借助于OpenCV算法来实现。
在另外的实施例中,所述方法规定检测所检测到的眼镜的数量(可能基于所检测到的镜片的数量来计算)是否与所检测到的面部的数量对应,或者更优选地,检测是否所有眼镜都被佩戴(即是否所有眼镜都位于所识别出的面部的区域内)。
如果所有用户都佩戴了眼镜,则显示控制方法将以立体模式显示视频流。
相反地,如果识别出用户未佩戴立体视觉眼镜,则所述方法将例如通过切换到单一视觉模式来改变显示模式。可替代地,能够想到所述方法将把显示模式改变为具有减小的深度的另一个立体模式,以减轻没有佩戴立体视觉眼镜的观众所感觉到的不适。
在一个实施例中,作为对根据是否所有用户都佩戴了眼镜来选择显示模式的补充或替代,所述方法还规定为观众生成信息消息。
例如,如果输入信号是立体视觉信号并且没有人佩戴眼镜,则(视觉和/或声音)消息将被生成,以建议使用眼镜,并且该信号将以2D格式显示。如果仅一些观众佩戴了眼镜,则将生成建议没有佩戴眼镜的那些观众将眼镜戴上的消息。由此生成的消息可以是视觉的和/或声音的,并且可以使用OSD(屏上显示)技术来显示重叠在视频上的字符或图形符号,或者所述消息可利用诸如在屏幕外部的忽明忽灭的灯的发光信号。
到目前为止所描述的方法可附加地包括自适应训练步骤,该步骤可用于例如通过限定与立体视觉眼镜关联的图案的优选形状来更有效地识别其中用户希望显示模式被自动地切换的那些情形。立体视觉眼镜可例如在形状和尺寸方面彼此不同,但所有立体视觉眼镜都必须具有一些允许其被摄像机设备识别的共同特征(例如偏振类型或激活频率)。优选地,该自适应训练也可借助于OpenCV算法来实现。
在摄像机设备框定具有偏振镜片但不适用于立体视觉的眼镜(例如特殊的太阳镜)的情况下,所述方法将识别出这样的眼镜的存在,因为两个图像之间的差异将突出具有相同偏振的镜片的存在,并且因此,所述方法将假定在该位置上没有立体视觉眼镜。
通过上述设备的图像获取和处理可连续地发生,或者更优选地,可以固定的时间间隔(例如每15秒)重复。通过增加间隔的长度,例如减少设备的计算负荷是有可能的。
在一个实施例中,屏幕前方的环境的图像连续地被获取和处理,这样做意味着获取和处理步骤被连续地重复;当然,由于这样的过程需要一定的时间(几毫秒),因此术语“连续获取和处理”意指所述过程不断地被重复。在该实施例中,显示模式不是在每次眼镜存在检测时都不断地被改变;这避免了任何错误的检测可能导致图像在两个不同显示模式之间不断地被切换。在一个实施例中,可用于视频流显示模式选择的信号在预定数量的获取和处理步骤已被完成之后生成;换句话说,要使显示模式改变,特定数量的获取是必需的;一次获取是不够的。可替代地,信号在每次处理步骤结束时连续地被生成,但显示设备将忽略它。
显而易见的是,本领域的普通技术人员可对本发明进行许多改变而不背离在所附权利要求中所陈述的本发明的保护范围。特别地,本发明显然并不限于本文所描述的单个实施例,这是因为通过将所描述的那些实施例之中的不同实施例的项目和特征一起(并且可能还与本身对本领域的技术人员已知的技术方案一起)组合成不同的方法和设备能够想到其他实施例,所述不同的方法和设备仍然使用通过获取和比较从同一观察点捕获的两个图像来识别立体视觉眼镜的基本构想或者由于这样的眼镜检测过程而控制视频流的显示模式的任何方式。
同样显而易见的是,本发明不限于用于检测立体视觉眼镜的存在的摄像机设备,而是可被扩展至包括所述摄像机设备和适于接收立体视觉视频流的装置两者以及包括适于根据上述用于控制视频流的显示模式的方法显示所述立体视觉视频流的装置的视频显示系统。在这样的系统中,摄像机设备和显示设备(例如电视机或投影仪)可连接或集成在一起,或者彼此操作性地关联。
在一种变型中,本文所提出的用于立体视觉眼镜的识别的方法可以包括用于检测眼镜图案移动的算法,以提供附加功能,举例来说诸如为切换视频信号或者甚至修改立体视觉图像以避免为两个眼睛中的任何一个实时生成图像的立体视觉系统中的视差效应。
在另外的实施例中,“快门式”眼镜配备有两个偏振滤光器,其优选地被布置在两个镜片附近,例如位于框定区域外部、位于镜片旁边。这允许使用即使在偏振立体视觉眼镜是快门类型的情况下也能够检测其存在的设备。当所述设备用在两个滤光器的两个方向上的偏振光来拍摄屏幕前方的环境时,环境将如前面参照图5所论述的那样看起来分别是透明的或黑暗的,并且因此将允许眼镜借助于上述方法被检测。该方法的优点在于其防止了任何检测不确定性或误差由于观众移动而发生。
Claims (22)
1.一种用于立体视觉眼镜的识别的方法,其中从同一观察点获取适于显示立体视觉视频流的屏幕前方的环境的两个图像(51, 52),其特征在于:
- 通过从所述两个图像(51, 52)中的一个中减去另一个来计算差分图像(53),
- 在所述差分图像(53)内检测立体视觉眼镜(2)的两个镜片的存在。
2.根据权利要求1所述的方法,其中当存在数量超过预定值的一组邻接的非零像素时,镜片被检测到。
3.根据权利要求1或2所述的方法,其中通过将一组邻接的非零像素与预先限定的镜片图像进行比较来检测镜片。
4.根据权利要求1至3中任一项所述的方法,其中通过相应的偏振滤光器(7, 9)来获取所述两个图像(51, 52),其中与所述两个图像关联的偏振滤光器(7, 9)不同并且具有与所述镜片相同的偏振能力。
5.根据权利要求1至4中任一项所述的方法,其中所述两个图像(51, 52)在不同时刻被获取,并且其中所述图像(51, 52)的获取与右图像和左图像在所述屏幕上的可视化同步。
6.根据权利要求5所述的方法,其中所述右图像和所述左图像与立体视觉视频流的两个不同的立体视觉帧对应。
7.根据权利要求1至6中任一项所述的方法,其中所述眼镜的多次检测随时间发生,其中在第一次检测期间,所述被检测的眼镜的形状和/或尺寸被存储在存储器中,并且其中在随后的检测期间,将被检测的眼镜的形状和/或尺寸与所存储的形状和/或尺寸进行比较。
8.根据权利要求1至7中任一项所述的方法,其中所述眼镜的多次检测随时间发生,并且其中所述显示模式仅在所述图像获取步骤和眼镜检测步骤已被重复预定数量次之后被改变。
9.一种用于控制立体视觉视频流的显示模式的方法,其中所述立体视觉视频流包括用于用户的右眼的一系列右图像和用于用户的左眼的一系列左图像,所述方法的特征在于,通过结合了权利要求1至8中任一项所阐述的特征的方法来检测立体视觉眼镜在适于显示立体视觉视频流的屏幕前方的环境内的存在,并且以取决于所述立体视觉眼镜的检测的模式显示所述立体视觉流。
10.根据权利要求9所述的方法,其中所述立体视觉眼镜的检测随时间被重复,并且所述显示模式在所述检测的结果改变时被自动地切换。
11.根据权利要求9或10所述的方法,其中当所述眼镜被检测到时,所述视频流以立体视觉模式被显示,并且其中当所述眼镜未被检测到时,所述视频流以单一视觉模式被显示。
12.根据权利要求9或10或11所述的方法,其还包括在所述屏幕前方的环境内识别用户面部的步骤,从而作为所述眼镜的检测以及所述面部在与所述眼镜的位置对应的位置上的检测的函数来显示所述视频流。
13.根据权利要求12所述的方法,其中如果所有被检测到的眼镜都处在与面部对应的位置上,则生成声音和/或视觉消息。
14.一种对用于立体视觉的眼镜进行识别的设备,其包括用于获取图像的至少一个传感器(10, 11, 13, 14)以及用于处理所述获取的图像的装置(12, 12'),其特征在于,所述处理装置(12, 12')适于实现根据权利要求1至8中任一项所述的用于眼镜识别的方法。
15.根据权利要求14所述的设备,其还包括:
分束器(5),所述分束器(5)适于将由镜片获取的光分成两个不同的光路;
第一偏振器(7),所述第一偏振器(7)被布置在所述两个光路中的第一个上,并且适于以第一偏振类型使入射光偏振;以及
第二偏振器(9),所述第二偏振器(9)被布置在所述两个光路中的第二个上,并且适于以第二偏振类型使入射光偏振。
16.根据权利要求15所述的设备,其中所述第一图像和所述第二图像分别通过相应的图像传感器(10, 11)获取。
17.根据权利要求15所述的设备,其中所述第一图像和所述第二图像两者都通过单个图像传感器(14)获取。
18.根据权利要求14至17中任一项所述的设备,其还包括用于照亮由所述至少一个图像传感器框定的场景的装置。
19.根据权利要求18所述的设备,其中所述照亮装置包括偏振光源。
20.根据权利要求19所述的设备,其中所述设备包括:
非偏振光源,特别是红外光源;以及
机械系统,所述机械系统适于移动所述非偏振光源前方的偏振滤光器对。
21.根据权利要求14至20中任一项所述的设备,其还包括适于向所述设备输出与所述眼镜的检测相关的信号的装置。
22.一种视频显示系统,其包括:
根据权利要求14至21中任一项所述的用于检测立体视觉眼镜的存在的设备;
适于接收立体视觉视频流的装置;以及
适于根据结合了权利要求9至13中任一项所阐述的特征的方法来显示所述立体视觉视频流的装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
ITTO2010A000003 | 2010-01-07 | ||
ITTO2010A000003A IT1397294B1 (it) | 2010-01-07 | 2010-01-07 | Dispositivo e metodo per il riconoscimento di occhiali per visione stereoscopica, e relativometodo di controllo della visualizzazione di un flusso video stereoscopico. |
PCT/IB2011/050060 WO2011083433A1 (en) | 2010-01-07 | 2011-01-07 | Device and method for the recognition of glasses for stereoscopic vision, and relative method to control the display of a stereoscopic video stream |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102822848A true CN102822848A (zh) | 2012-12-12 |
Family
ID=42320864
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2011800054383A Pending CN102822848A (zh) | 2010-01-07 | 2011-01-07 | 对用于立体视觉的眼镜进行识别的设备和方法以及控制立体视觉视频流的显示的相关方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US20130002839A1 (zh) |
EP (1) | EP2521988A1 (zh) |
JP (1) | JP2013516882A (zh) |
KR (1) | KR20120102153A (zh) |
CN (1) | CN102822848A (zh) |
IT (1) | IT1397294B1 (zh) |
WO (1) | WO2011083433A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105100767A (zh) * | 2014-05-19 | 2015-11-25 | 纬创资通股份有限公司 | 3d影像的判断方法及系统 |
CN110235088A (zh) * | 2017-02-01 | 2019-09-13 | 标致雪铁龙汽车股份有限公司 | 用于分析独立显示路径上的图像同步的设备 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5452537B2 (ja) * | 2011-04-04 | 2014-03-26 | 日立コンシューマエレクトロニクス株式会社 | 映像表示システム及び表示装置 |
US20130194395A1 (en) * | 2011-06-28 | 2013-08-01 | Nokia Corporation | Method, A System, A Viewing Device and a Computer Program for Picture Rendering |
US9465226B2 (en) * | 2011-08-09 | 2016-10-11 | Sony Computer Entertainment Inc. | Automatic shutdown of 3D based on glasses orientation |
GB2498954B (en) * | 2012-01-31 | 2015-04-15 | Samsung Electronics Co Ltd | Detecting an object in an image |
WO2013169327A1 (en) | 2012-05-07 | 2013-11-14 | St. Jude Medical, Atrial Fibrillation Division, Inc. | Medical device navigation system stereoscopic display |
KR101617068B1 (ko) * | 2012-10-11 | 2016-05-02 | 이문기 | 편광 차분 카메라를 이용한 영상처리 시스템 |
US11300773B2 (en) | 2014-09-29 | 2022-04-12 | Agilent Technologies, Inc. | Mid-infrared scanning system |
CN104796641B (zh) * | 2015-04-09 | 2018-11-30 | 康佳集团股份有限公司 | 眼镜式和自由式二合一立体电视机 |
US9546905B1 (en) * | 2015-04-10 | 2017-01-17 | Agilent Technologies, Inc. | Mid-infrared scanning system that differentiates between specular and diffuse scattering |
US10598927B2 (en) * | 2017-06-08 | 2020-03-24 | Visteon Global Technologies, Inc. | Detecting polarization of a viewer's eyewear |
KR101859197B1 (ko) * | 2018-01-22 | 2018-05-21 | 주식회사 연시스템즈 | 실시간 입체 현미경 |
JP2020160206A (ja) * | 2019-03-26 | 2020-10-01 | 株式会社Jvcケンウッド | 虚像表示装置および撮像装置 |
WO2020194853A1 (ja) * | 2019-03-26 | 2020-10-01 | 株式会社Jvcケンウッド | 撮像装置および判定方法 |
WO2021206251A1 (en) * | 2020-04-07 | 2021-10-14 | Samsung Electronics Co., Ltd. | System and method for reduced communication load through lossless data reduction |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1175308A (zh) * | 1994-12-13 | 1998-03-04 | 齐诺技术有限公司 | 用于立体显示系统的跟踪系统 |
CN1476729A (zh) * | 2001-07-23 | 2004-02-18 | �ʼҷ����ֵ�������˾ | 立体图像处理设备和方法 |
CN1567083A (zh) * | 2003-06-23 | 2005-01-19 | 宋柏君 | 立体数码相机及成像显示方法 |
CN1762157A (zh) * | 2003-03-14 | 2006-04-19 | 皇家飞利浦电子股份有限公司 | 3d视频会议 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4761066A (en) * | 1986-01-14 | 1988-08-02 | Carter William J | Stereoscopic optical system |
JPH0193987A (ja) | 1987-10-05 | 1989-04-12 | Sanyo Electric Co Ltd | 立体テレビジョンシステムの表示モード切換制御回路 |
JPH04293346A (ja) * | 1991-03-22 | 1992-10-16 | Dainippon Screen Mfg Co Ltd | 画像読取装置 |
JPH07289517A (ja) * | 1994-04-28 | 1995-11-07 | Canon Inc | 視線検出装置およびそれを備えた光学機器 |
JP3443293B2 (ja) * | 1997-08-29 | 2003-09-02 | 三洋電機株式会社 | 立体表示装置 |
JP3428920B2 (ja) * | 1999-03-25 | 2003-07-22 | キヤノン株式会社 | 視点位置検出装置、方法及び立体画像表示システム |
JP2001025032A (ja) * | 1999-07-05 | 2001-01-26 | Nippon Telegr & Teleph Corp <Ntt> | 動作認識方法、動作認識装置及び動作認識プログラムを記録した記録媒体 |
JP3306513B2 (ja) * | 2000-03-29 | 2002-07-24 | 独立行政法人 農業技術研究機構 | 光沢像検出方法 |
JP4101434B2 (ja) | 2000-05-18 | 2008-06-18 | 日本放送協会 | 透過制御装置 |
US7405801B2 (en) * | 2001-01-23 | 2008-07-29 | Kenneth Jacobs | System and method for Pulfrich Filter Spectacles |
US8159526B2 (en) * | 2004-09-17 | 2012-04-17 | Seiko Epson Corporation | Stereoscopic image display system |
JP3976040B2 (ja) * | 2004-09-17 | 2007-09-12 | セイコーエプソン株式会社 | 立体画像表示装置 |
JP4602737B2 (ja) * | 2004-10-25 | 2010-12-22 | シャープ株式会社 | 映像表示装置 |
JP2006208999A (ja) * | 2005-01-31 | 2006-08-10 | Konica Minolta Photo Imaging Inc | 映像表示装置及びシミュレーションシステム |
JP2007065067A (ja) * | 2005-08-29 | 2007-03-15 | Seijiro Tomita | 立体映像表示装置 |
JP4921486B2 (ja) * | 2005-11-30 | 2012-04-25 | シーイング・マシーンズ・プロプライエタリー・リミテッド | 視覚的に頭と目を追跡するシステムにおける眼鏡の視覚的追跡 |
JP2007179517A (ja) * | 2005-12-28 | 2007-07-12 | Kao Corp | 画像生成方法および装置ならびに化粧シミュレーション方法および装置 |
JP2008016918A (ja) * | 2006-07-03 | 2008-01-24 | Matsushita Electric Ind Co Ltd | 画像処理装置、画像処理システムおよび画像処理方法 |
JP2008171013A (ja) | 2008-01-29 | 2008-07-24 | Nippon Hoso Kyokai <Nhk> | 立体表示システム |
TWI387340B (zh) * | 2008-09-12 | 2013-02-21 | Wistron Corp | 根據資料比對結果播放影像之方法及其相關影像播放系統 |
-
2010
- 2010-01-07 IT ITTO2010A000003A patent/IT1397294B1/it active
-
2011
- 2011-01-07 WO PCT/IB2011/050060 patent/WO2011083433A1/en active Application Filing
- 2011-01-07 EP EP11706000A patent/EP2521988A1/en not_active Withdrawn
- 2011-01-07 KR KR1020127020545A patent/KR20120102153A/ko not_active Application Discontinuation
- 2011-01-07 JP JP2012547578A patent/JP2013516882A/ja not_active Ceased
- 2011-01-07 CN CN2011800054383A patent/CN102822848A/zh active Pending
- 2011-01-07 US US13/520,698 patent/US20130002839A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1175308A (zh) * | 1994-12-13 | 1998-03-04 | 齐诺技术有限公司 | 用于立体显示系统的跟踪系统 |
CN1476729A (zh) * | 2001-07-23 | 2004-02-18 | �ʼҷ����ֵ�������˾ | 立体图像处理设备和方法 |
CN1762157A (zh) * | 2003-03-14 | 2006-04-19 | 皇家飞利浦电子股份有限公司 | 3d视频会议 |
CN1567083A (zh) * | 2003-06-23 | 2005-01-19 | 宋柏君 | 立体数码相机及成像显示方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105100767A (zh) * | 2014-05-19 | 2015-11-25 | 纬创资通股份有限公司 | 3d影像的判断方法及系统 |
CN105100767B (zh) * | 2014-05-19 | 2017-04-26 | 纬创资通股份有限公司 | 3d影像的判断方法及系统 |
CN110235088A (zh) * | 2017-02-01 | 2019-09-13 | 标致雪铁龙汽车股份有限公司 | 用于分析独立显示路径上的图像同步的设备 |
Also Published As
Publication number | Publication date |
---|---|
IT1397294B1 (it) | 2013-01-04 |
EP2521988A1 (en) | 2012-11-14 |
ITTO20100003A1 (it) | 2011-07-08 |
US20130002839A1 (en) | 2013-01-03 |
WO2011083433A1 (en) | 2011-07-14 |
KR20120102153A (ko) | 2012-09-17 |
JP2013516882A (ja) | 2013-05-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102822848A (zh) | 对用于立体视觉的眼镜进行识别的设备和方法以及控制立体视觉视频流的显示的相关方法 | |
KR101324440B1 (ko) | 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치 | |
CN104603674B (zh) | 图像显示装置 | |
US9787977B2 (en) | 3D glasses, display apparatus and control method thereof | |
JP5404246B2 (ja) | 3次元映像処理装置及びその制御方法 | |
US20060139447A1 (en) | Eye detection system and method for control of a three-dimensional display | |
US20090322857A1 (en) | Continuous adjustable 3deeps filter spectacles for optimized 3deeps stereoscopic viewing and its control method and means | |
WO2014197109A3 (en) | Infrared video display eyewear | |
US20120120208A1 (en) | 3D shutter glasses with frame rate detector | |
US20120099195A1 (en) | Eyewear, three-dimensional image display system employing the same, and method of allowing viewing of image | |
US20130258072A1 (en) | Systems and methods for presenting three-dimensional content using photosensitive lenses | |
US20160034048A1 (en) | Video display system, three-dimensional video pointing device and video display device | |
KR101247903B1 (ko) | 3d 영상 촬영용 광학 모듈 | |
KR20120125274A (ko) | 입체 비디오 스트림의 디스플레이 제어 시스템 및 방법 | |
CN105446580B (zh) | 一种控制方法及便携式电子设备 | |
CN102253591B (zh) | 基于led光通信的统一帧序控制的3d投影显示系统 | |
JP2011030219A (ja) | 3次元映像の提供装置と受信装置、これを用いた3次元映像の提供方法と受信方法、そして3次元映像システム | |
GB2481094A (en) | 3D display with automatic switching between 2D and 3D display modes | |
GB2480999A (en) | 3D display with automatic switching between 2D and 3D display modes | |
KR101142176B1 (ko) | 입체 영상 제공 장치 및 그 방법 | |
JP2012080376A (ja) | 映像表示装置 | |
CN105468250B (zh) | 一种信息处理方法及便携式电子设备 | |
JP2016020978A (ja) | 画像表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20121212 |