CN107623803A - 一种带光流定位功能的增强现实的实现方法和设备 - Google Patents
一种带光流定位功能的增强现实的实现方法和设备 Download PDFInfo
- Publication number
- CN107623803A CN107623803A CN201610553794.3A CN201610553794A CN107623803A CN 107623803 A CN107623803 A CN 107623803A CN 201610553794 A CN201610553794 A CN 201610553794A CN 107623803 A CN107623803 A CN 107623803A
- Authority
- CN
- China
- Prior art keywords
- eyeglass
- light
- module
- light stream
- augmented reality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
本发明涉及一种带光流定位功能的增强现实的实现方法和设备,其特征是基于光流定位和特定的显示镜片实现像素级的增强现实。它的包括摄像模块,控制电路,光流定位传感器和增强现实镜片组。实现方法是控制电路基于CPLD/FPGA/ASIC/CPU/DSP等,负责读取来自一个或多个摄像模块的数字视频信号,分析其中的超过某个特定的亮度阈值的区域,进行特定的图像操作,比如膨胀、插值等,得到最适合的图像,然后根据光流定位分析人眼的瞳孔的中心,把图像显示到增强现实镜片组,实现一定程度的增强现实的效果。
Description
技术领域
本发明属于增强现实领域,具体涉及一种基于光流定位和特别定制的镜片组实现像素级的增强现实方法和设备。
背景技术
在日常生活中,眩光作为一种常见的现象,对于正常的生活有较大的影响,给人类的视力健康造成了危害。因此抑制眩光引起了现代城市照明、交通等很多领域的关注。遮挡眩光在某种程度上也可以说是一种增强现实的需求。
现在已经有多种技术方案尝试解决眩光问题,比较典型的有基于普通液晶和电致变色的方案。普通液晶一般包括TN/STN/TFT液晶面板,加上前后的偏光片,此类方案缺点已经在ZL2008200349991中指出:由于偏光片的存在导致整体透光率最高不过45%,不能适应晚上的防眩光要求。近几年还有众多的方案尝试利用摄像头实现像素级别的遮挡,此类方案的发源是ZL2010102421473。
纵观所有的基于像素的方案中,都没有合适的机制保证瞳孔中心,镜片的遮挡点与眩光点的在一条直线上问题。目前所有的解决方案都有一个固有的缺陷,那就是如果人的瞳孔中心相对于眼镜稍稍移动位置,比如在跑步的时候眼镜的晃动,那么会导致人的瞳孔中心,遮挡镜片的遮挡点和眩光点不在一条直线上,从而影响效果,甚至完全没有效果。我们可以看到ZL2015105623499在进行一个有益的尝试,然而只能在车内使用,并且跟踪相机在比较暗的环境下由于光线不足可能有图像跟踪困难的问题,适用面太窄。
增强现实领域的某些专利具备了对人眼的跟踪能力,但是还不具有眩光的处理能力。比如ZL2011102911778在尝试用专门的跟踪相机来捕捉人眼的动作,它解决了在背景光线的强烈的时候,虚拟物体的可视性问题。但是没有检测环境眩光的能力,在不需要显示虚拟图像的时候,它不能主动全部或者部分遮挡射向人眼的眩光。微软虽然申请了该专利,但是为HoloLens采用的解决办法是仍然是使用低可见光透过率的外镜片,结果并不理想,估计原因是该专利不够完善,实施难度过大。
无论是Google glass,还是微软的HoloLens,或者Magic Leap,都有强光背景下的显示问题。现在的微软的HoloLens的实际应用场景都是在室内光线比较柔和的地方,如果虚拟物体正好显示在照明灯的位置,那么也会影响虚拟物体的可见性。在现有的解决方案下,如果在室外,此类问题更加突出。比如阳光的亮度在透过50%透光率的外镜片后仍然远远超过虚拟物体的亮度,会导致人眼看不到虚拟物体,而只能看见太阳照亮的实际世界。
强光背景下虚拟物体无法清楚显示的原因容易理解,因为对于现实世界的亮度来说,虚拟世界中的物体的亮度还是偏低的。
增强现实设备的另外一个问题是眼镜可能的相对于头部的偏移问题。在基于现实世界的物体显示虚拟物体的时候,微小的镜框的位移都会导致显示的位置不准确,比如从眼睛看过去可能虚拟的螺丝帽根本就没有拧到现实世界的螺钉上。
发明内容
本发明试图解决以上的问题,其特征是基于光流定位和改进的增强现实镜片组实现像素级的增强现实世界,此镜片组由外镜片和可选的内镜片组成,其中外镜片遮挡眩光,内镜片显示虚拟物体。
对于瞳孔中心定位的定位的问题,本发明尝试用简化的解决方案,这就是使用光流定位传感器,其实就是鼠标的光学引擎,已经应用于消费级无人机的定位。在《计算机测量与控制》2010年第12期的《基于LabVIEW的鼠标位移测量技术研究》一文中,提出了基于鼠标光学引擎的定位方法,精度可以达到0.1毫米。现在的激光引擎的鼠标可以在毛毯和玻璃上实现定位,甚至于飞利浦光学也已经指出其VCSEL激光引擎可以用于人的皮肤的定位(Tracking on skin)。
在本发明的实现中,控制电路(2)可以读取来自光流定位模块(6)的X,Y定位信息,来定位当前位置。当眼镜的镜框相对额头的皮肤有少量的位移的时候,要立刻移动镜片的图像中心来对应瞳孔中心的移动,这样保证瞳孔中心,镜片的图像中心和视野的中心仍然是在一条直线上。这样真实世界的眩光,在射向瞳孔中心的时候,仍然被镜片的对应像素点遮挡,很好的解决了眩光的问题。
对于增强现实来说,本发明的外镜片可以根据需要遮挡影响虚拟物体显示的较强的光线,比如灯泡的光线等,然后再用内镜片显示虚拟物体,较好的解决了虚拟物体无法重叠在较亮的显示物体上的问题。
同时为了解决虚拟物体和显示世界的对应问题,通过光流引擎跟踪头部的移动,调整虚拟世界的中心来适应现实世界。这样可以做到用虚拟世界的螺丝帽拧到现实世界的螺钉上,依赖于精确的定位,解决了虚拟物体的显示位置问题。
考虑到以后的计算能力可能有大幅度的提升,光流定位模块(6)可以增强为定制的瞳孔摄像模块,此时仍然由LED或者VCSEL发射不可见光线,而通过瞳孔摄像模块捕捉并分析瞳孔的中心位置,并且在移动的时候输出相对的位置移动信息。这样可以在比较暗的环境下也能分析到瞳孔的中心,输出位移信息到控制电路(2)。
附图说明
图1中为典型的遮挡眩光的实施实例。
图2中为摄像头和光流定位模组的布置图。
图3中为增强现实的实施实例示意图。
具体实施方式
下面结合附图对本发明的具体实施方式进行详细说明。
在图1中,在镜框(1)的合适位置,可以是镜腿上放置控制电路(2),也可以在镜框(1)的正前的镜框上缘放置控制电路(2)。镜框(1)左右分别有两个镜片组,每个镜片组都是由外镜片(3b)和可选的内镜片(3a)组成,其中外镜片(3b)是由带TFT阵列(5)的和其他的合适层组成眩光遮挡镜片。摄像模块(4)可以位于镜框的正前方上部。
在镜框上缘的内侧,放置有光流定位模块(6),它会发射光线,优选人眼不可见的红外光或者红外激光到人的皮肤,实现定位功能。
控制电路(2)读取来自摄像模块(4)的视频信号,对于其中的每一帧信号都进行分析,对于其中超过亮度阈值的像素,进行合适的运算,送往外镜片(3b)显示。外镜片(3b)由TFT阵列(5)和其他层组成,可以做到像素级别的挡光。根据外镜片(3b)的种类不同,控制电路(2)的用来计算每个点的数值的运算稍有不同。
1)对于使用低偏光度偏光片的液晶和PDLC来说,它们是默认不透明,加电变透明,此时运算的公式为:
上面公式中的Lxy为当前像素的亮度,Lxy_block为送往外镜片的数值,Lthreshold为亮度的阈值,Lmax为一个像素点能取的最大亮度值,k值为系数,b值为常数,Lavg为当前帧或前一帧图像的平均亮度值,m为系数,n为常数。所有的系数和常数的取值的原则是保证外镜片(3b)在遮挡眩光的基础上做到晚上全透明,白天室外较明亮的时候一定程度的透明。
2)对于电致变色和PSLC来说,他们是默认透明,加电不透明,此时运算的公式为:
上面公式中的系数的解释和前述的公式相同。所有的系数和常数的取值的原则也是保证外镜片(3b)在在遮挡眩光的基础上做到晚上全透明,白天室外较明亮的时候一定程度的透明。
控制电路(2)是基于ASIC/CPLD/CPU/DSP/FPGA实现的。从实现的容易程度来说,初期可以优先用CPLD/CPU/DSP/FPGA实现,比如Ambarella A12W CPU,它可以很方便的连接到摄像模块(4)和外镜片(3b),还可以连接DDR3内存供图像计算使用。从长远来看应当用ASIC来设计,降低成本。
TFT阵列(5)在镜片中起到了很重要的作用,它是实现像素级挡光的基础,理想状态下可以决定一个像素是全透明,部分透明,还是完全不透明。
在普通的液晶屏中,两面有偏振片,中间有玻璃基板,TFT阵列,黑矩阵,彩色滤光片等。普通液晶屏为公知技术,此处不再详述。然而由于液晶显示的要求,选择的偏光片的偏光度都高达99%,但是为了仅仅是为了遮挡眩光,完全可以采用较低偏光度的偏光片,比如80%偏光度的,这样可以达到最小透光率35%,最大透光率75%的目标。同时为了提高最大透光率,黑矩阵和彩色滤光片是要去掉的。
PDLC和PSLC镜片都是通过TFT阵列(5)驱动的,其中PDLC/PSLC层的厚度应当尽量薄一些,最小透光率可以高一些,比如设置为45%而不是25%,这样可以降低驱动电压的要求。对于PDLC和PSLC镜片来说,同时要求雾度尽量低,透明度尽量高一些。
电致变色镜片要求ITO薄膜的方块电阻尽量小一些,便于电子的快速流动,尽快变色。
下面试图计算一下TFT阵列的分辨率,来看看怎么实现视网膜镜片的效果。一般来说亚洲人的镜眼距离是12mm左右,而角膜的曲率半径一般是7~8mm。而根据科教出版社的《简明天文学教程》指出:人眼的理论分辨能力是20角秒(1度=60分=3600秒),可是由于感光细胞的分布以及本身的缺陷,实际上对500纳米黄绿光的分辨能力是1角分(弧度0.000291)。如果外镜片(3b)的的单个镜片的宽度是70毫米,高度是50毫米,那么对应的分辨率大约是1200x900左右。这样的分辨率对于现有的技术不是难题。索尼的HTPS芯片SXRD211早在2005年就在对角线为0.61英寸(1.54厘米)的屏幕上实现了1920x1080的高分辨率。
同时从实现最好的挡光效果考虑,外镜片(3b)的形状优先采用非球镜片,同时控制电路(2)也要对图像进行一定的变换,保证遮挡像素点正好位于瞳孔中心到真实世界的眩光点之间。
外镜片(3b)也可以和合适基弯的近视或远视镜片结合,结合的方式可以是胶合,从而实现近视眼镜或远视眼镜的挡光。外镜片(3b)还可以有多种镀膜层,可以用来防紫外线,降低反射率,防雾等效果。
控制电路(3)和外镜片(3b)的接口可以是RGB接口/LVDS/MIPI-DSI/HDMI/DisplayPort /SPI/HiSPi中的一种。比如Ambarella A12W CPU可以方便的通过自带的MIPIDSI接口连接外镜片(3b)。
摄像模块(4)的设置应当关闭自动白平衡,自动曝光补偿,自动增益和自动快门等设置,这样才能获取真实的亮度信息,送往控制电路(2)进行处理。控制电路(2)和摄像模块(4)的接口可以是RGB接口/LVDS/MIPI-CSI/SPI/HiSPi/SLVS中的一种,比如MIPI CSI。一般来说为了降低带宽占用,摄像模块(4)发往控制电路(2)控制电路的数据应当是RAW RGB格式或者YUV格式或者HDR RAW的,可以是8bit/10bit/12bit/14bit等;次优的选择是普通RGB格式,位宽包括但不限于24bit,18bit,16bit,12bit, 10bit等。
摄像模块(4)的镜头是视场角在35~135度之间的镜头,镜头的设计要求做到最大程度的还原人眼的视野,减少图像失真,其景深可以优化为1米至无穷远。这样可以做到在1米外的眩光图像都能真实的拍摄到,进行防眩处理,而对于1米以内的眩光图像,控制电路(3)可以不予处理。
优选的,摄像模块(4)应当选择靶面尺寸较小的图像传感器,比如1/9英寸或更小,这样可以降低镜头的大小,尽量减少眼镜上的镜头带来的侵入感。特别的,可以把摄像模块(4)放到外镜片(3b)的里面,让人难以从外面观察到。
光流定位模块(6)是基于鼠标的光学引擎实现的,控制电路(2)通过SPI接口读取X,Y方向的移动信息,甚至于Z方向的移动信息。为了减少对人眼的干扰和美观,尽量采用不可见光作为定位光线,比如红外光或者红外激光。红外光可以由LED发出,而红外激光就要用VCSEL发出。光流定位模块(6)应当尽量小型化,并且尽量实现没有孔洞的效果,提高防水性能。光流定位模块(6)在安装的时候要尽量贴近皮肤,提高定位性能。
当光流定位模块(6)检测到位置的移动的时候,比如说水平位置x方向有Xn个像素的移动,经过控制模块(2)按照一定的比率计算后应该对应外镜片(3b)显示中心的Mn个像素的移动,那么就做相应的调整,保证瞳孔中心,外镜片(3b)镜片的显示中心和视野的中心仍然在一条直线上。
假设对方车道来的车灯直径为96毫米,摄像模块(4)只有一个且位于双眼的正中间,且已经调试好镜片的显示中心。为了简化计算,可以假设车灯的高度和眼睛的高度一致。在这种情况下计算投射到摄像模块(4)的光斑显示在外镜片(3b)上的结果,同时拿此结果和对方车灯投射到瞳孔的结果做比较,会发现一个重合程度和对方车灯直径有关,对方车灯的直径越大,这个重合程度越高;同时也和摄像模块(4)的中心和瞳孔中心的距离有关,此距离越短,重合程度越高。计算过程略微繁琐,此处省略。
依据以上结果,我们认为仅仅有图2中的摄像模块(4.1)是不够的,摄像模块应当尽量接近瞳孔中心,接近的方法有两种,一种方法是为右眼设置一个摄像模块(4.2),此模块位于镜框右眼上部的中间边缘,同时为左眼设置一个摄像模块(4.3),此模块位于镜框左眼上部的中间边缘;第二种方法是甚至为右眼设置两个摄像模块(4.2)和(4.4),分别位于镜片的上缘和下缘,控制模块根据他们返回的结果按照一定的比例计算瞳孔中心的应当看到的图像,此种算法可以类始于CT片的层间轮廓线插值;同样也可以为左眼设置两个摄像模块(4.3)和(4.5)利用插值计算瞳孔中心应当看到的图像。
特别的,考虑到根据摄像模块(4)计算出的光斑投射到外镜片(3b)上之后,和对方车灯投射到瞳孔中心的结果总是难以完全重合,那么,我们还有一个办法来解决此问题:对于摄像模组最后计算得到的光斑,进行N次基于亮度的分层膨胀操作,再送往外镜片(3b)。
这样,本来直径96毫米的车灯,可能我们实际上遮挡了直径为192mm的虚拟车灯,结果仍然是可以接受的,不会影响到眼睛观察路况,但是却大大减轻了眩光的不良作用。
上面提到的分层膨胀的一种实现方法是把眩光图像按照多个亮度的阈值分层,然后针对每个层分别进行N次膨胀操作再合成。
相应的光流模块(6)也可以从一个(6.1)扩展到两个,分别是(6.2)和(6.3),其中(6.2)为左眼服务,(6.3)为右眼服务。
特别的,光流定位模块(6)可以增强为定制的瞳孔摄像模块,此时仍然由LED或者VCSEL发射不可见光线,而通过瞳孔摄像模块捕捉并分析瞳孔的中心位置,并且在移动的时候输出相对的位置移动信息。LED或VCSEL安装在镜框或者支架的合适位置,发射光线照亮人的眼部,然后瞳孔摄像模块捕捉瞳孔的信息并进行分析。这样可以在比较暗的环境下也能分析到瞳孔的中心,输出位移信息到控制电路。同时可以通过瞳孔检测人的疲劳状况,予以提醒,提高驾驶安全。
下面是本发明在增强现实中的应用。现在基本上有两种增强显示的设备,一种是Google glass,是硅基液晶(LCos)投影技术产生的虚拟影像经过棱镜射向瞳孔,棱镜一般位于镜片的外面。此时的镜片组只是由外镜片(3b)组成,外镜片不能阻挡棱镜射向瞳孔的光,以保证虚拟图像的可见性。
微软的HoloLens同样基于硅基液晶(LCos)投影技术,使用光导透明全息透镜(See-through holographic lenses,waveguides)来引导光线射向瞳孔。这个光导透明全息透镜就是本发明中的所指内镜片(3a)的一种实现,目前HoloLens在它的外面配备了透光率固定在50%左右的滤光板,这个是不够灵活的。
当显示虚拟物体的内镜片(3a)在与外镜片(3b)配合后,可以按照需要遮挡现实世界的某个特定实物的光线,防止影响虚拟物体的显示。比如在图3的例子中,301代表的现实世界中有太阳,外镜片302可以在指定的位置阻挡太阳的光线射向瞳孔,这样在303图像中就去掉了太阳的影像,而304代表的内镜片就可以在原先太阳的位置虚拟显示一朵白云,最后人眼看到图像305中的就有白色的云朵,而没有太阳。
在此过程中,307摄像模块负责拍摄现实世界,而306光流模块可以辅助确定瞳孔中心,304内镜片图像中心的和302外镜片的图像中心,以及视野中心在一条直线上。即使在304内镜片上不需要显示任何图像,外镜片302仍然可以根据需要遮挡亮度超过特定阈值的眩光,保护人的眼睛免受眩光干扰。
特别的304内镜片也可以是基于光场(Light Field)的显示设备,比如和MagicLeap类似的设备。
本发明的外镜片(3b)可以遮挡真实世界中光线强度超过特定阈值的地方,这个阈值是动态确定的,根据要在内镜片(3a)显示的虚拟图像的特性而定,同时遮挡的程度也是动态确定的。在没有内镜片(3a)或者不需要显示虚拟图像的时候,外镜片(3b)仍然可以遮挡眩光,保护眼睛。
本发明的实现可以内置蓝牙/红外/无线USB/Zigbee/4G LTE/5G等数据接口,用来和手机或者服务器交互数据,比如说计算拦截了多少次眩光,送往手机应用程序,发往社交媒体。也可以发送其他信息给用户,比如通知用户当前的系统电量信息,提醒及时充电。
本发明的实现可以提供一个按钮,供用户在两个或多个工作模式中切换,其工作模式可能有:
1)夜晚模式,此方式最适合夜晚,仅仅遮挡超过指定阈值的亮度的像素,其他的像素全透明,如果加上眩光图像的膨胀操作,遮挡效果就会更好;
2)平均模式,控制电路综合计算摄像模组收到的亮度信息,计算一个平均的遮挡值,结果类始于普通的卤化银变色镜片的工作方式,但是反应速度非常快;
3)加强模式,在平均模式的基础上,对于被认为是超过一定阈值的高亮度的像素点仍然需要遮挡的。此模式主要白天用,比如夏日晴天的光线的遮挡,既需要对于整体的光亮进行平均遮挡,还需要对于超亮的太阳特别遮挡;如果加上眩光图像的膨胀操作,遮挡效果就会更好;
4)关闭模式,不遮挡光线,允许自然光线最大的透过镜片。
如果这个按钮有三个位置,那么可以定义位置1是关闭眼镜电源,位置2是夜晚模式,位置3是加强模式。每个位置可以通过设置程序来调整,方便用户使用。
本发明的设备的校准方法是用户在一定距离之外的多个强光源前戴上眼镜,然后用手扶镜框,在瞳距已经设置好的前提下,左右或者上下调整眼镜的位置,做到最大程度的眩光遮挡效果,然后按松开或按下校准按钮,控制系统自动从光流定位模块读取当前的位置为增强现实镜片的零点位置,作为以后调整的基础。
第二种校准方法仍然要求用户在一定距离之外的多个强光源前戴上设备,然后通过软件连接到控制设备(2),根据用户指令左右或者上下调整每个外镜片的显示中心的位置,做到最大程度的眩光遮挡效果,并记录供以后使用。
特别的,为了避免每次使用前都要调整零点,控制模块(2)可以记录本次零点校准时候光流定位模块(6)返回的图像供下次启动的时候使用,或者在工作的时候,存储多幅典型的皮肤影像和对应的(X,Y)值,供下次启动使用。
本发明可以有多种简化版本的实现,比如普通精简版本是去掉光流定位模块和内镜片,外镜片选择带较低偏光度偏光片的普通液晶镜片或PSLC镜片,此时需要镜框夹紧头部,
以减少移动的影响,同时对于眩光图像区域多做几次膨胀操作;高度精简版本是把摄像模组(4)用比如太阳能电池或环境光检测设备替代,把TFT阵列简化为单个像素的ITO透明电极。
本发明不仅仅限于眼镜框的实现,也可以基于类似头盔的支架来实现,比如摩托车头盔,或者虚拟现实(VR)头盔等。
Claims (10)
1.一种带光流定位功能的增强现实设备,其组成包括:镜架或支架(1)、控制电路(2)、安装在镜架或支架上的由外镜片(3b)和可选的内镜片(3a)组成的增强现实镜片组、摄像模块(4) 、外镜片(3b)中的TFT阵列(5)和光流定位模块(6);其特色在于带有光流定位模块(6),它运作的基本原理是摄像模块(4)捕获的像素数据送往控制电路(2),同时光流定位模块(6)把瞳孔中心的相对的位置信息也送往控制电路(2),然后控制电路(2)经过一系列的图像运算,输出的数据送往外镜片(3b)中的TFT阵列(5),与可选的显示虚拟图像的内镜片(3a)配合,实现增强现实的效果。
2.根据权利要求1所述的增强现实设备,其增强现实镜片组的特征在于: 1)增强现实镜片组分为内镜片(3a)和外镜片(3b):内镜片(3a)贴近眼睛,用来显示虚拟图像,外镜片(3b)用来实现挡光的功能;2)外镜片(3b)是基于亮度的像素级别的挡光镜片,它是由薄膜晶体管(TFT)阵列驱动的带较低偏光度偏光片的普通液晶镜片,或者是TFT阵列驱动的不带偏光片的电致变色/PDLC/PSLC镜片;3)内镜片(3a)是可选的,可以在外镜片(3b)遮挡真实物体的图像的时候在指定的位置显示虚拟的图像,送到人眼的瞳孔;4)特别的,当在外镜片(3b)的外部有类似于Google glass的投影设备通过棱镜投射光线到人眼的瞳孔的时候,外镜片(3b)要保证棱镜投射到瞳孔的光线不被遮挡;5)特别的,外镜片(3b)中的TFT阵列可以是由有机薄膜晶体管(OTFT)组成的,可以做到弯曲和折叠,从而可以把电致变色/PDLC/PSLC镜片做成可以弯曲变形的膜的形态。
3. 根据权利要求2所述的增强现实设备,其特征在于:控制电路(2)是基于ASIC/CPLD/CPU/DSP/FPGA实现的,它和摄像模块(4)的接口是RGB接口/LVDS/MIPI-CSI/SPI/HiSPi/SLVS中的一种,和增强现实镜片组的外镜片(3b)的接口是RGB接口/LVDS/MIPI-DSI/ HDMI/DisplayPort/SPI/HiSPi中的一种,和光流定位模块(6)的接口是I2C/SPI/串行口中的一种。
4.根据权利要求1所述的增强现实设备,其摄像模块(4)的特征在于:1)摄像模块(4)的镜头是视场角在35~135度之间的镜头,镜头的设计要求做到最大程度的还原人眼的视野,减少图像失真,其景深可以优化为1米至无穷远;2)摄像模块(4)在正常工作的时候禁止了自动白平衡,自动曝光补偿,自动增益和自动快门等设置;3)摄像模块(4)的优选输出是RAWRGB格式或者YUV格式或者HDR RAW格式,其次是普通RGB格式,包括但不限于24bit,18bit,16bit,14bit,12bit, 10bit,8bit等;4)优选的,摄像模块(4)应当选择靶面尺寸较小的图像传感器,比如1/9英寸或更小;5)优选的,摄像模块(4)可以隐藏到到外镜片(3b)的里面,让人从外面难以察觉。
5.根据权利要求1所述的增强现实设备,其特征在于:1)光流定位模块(6)是基于鼠标光学引擎实现的,可以输出相对的位置移动信息,比如相对位移的x,y或x,y,z信息到控制电路(2);2)优选采用人眼不可见的红外光或激光,减少对眼睛的刺激;3)优选的,光流定位模块应当尽量贴近皮肤,光流定位模块的光线射出和反射部分不留空洞,以提高防水性能;4)特别的,当光流定位模块有多个的时候,它们可以通过光路设计共用同一个或一组发光器件,比如发光二极管(LED),或者垂直腔面发射激光器(VCSEL)。
6.根据权利要求1所述的增强现实设备,其特征在于:光流定位模块(6)可以增强为定制的瞳孔摄像模块,此时可以用LED或者VCSEL发射不可见光线照亮人眼,再通过瞳孔摄像模块捕捉并分析瞳孔的中心位置,最后可以输出相对的位置移动信息。
7.根据权利要求1所述的增强现实设备,其特征在于:摄像模块(4)和光流定位模块(6)的组合可以有多种:1)当摄像模块只有一个的时候,光流定位模块也只有一个,控制电路(2)读取来自摄像模块每个像素的亮度信息Lxy,对于超过亮度阈值的像素点的亮度进行特定的计算:1.1)对于带低偏光度偏光片的液晶和PDLC来说,它们是默认不透明,加电变透明,因此运算应当以像素点能取到的最大亮度值减去当前亮度值,再经过一定的变换得到目标值,它的系数取值的原则是保证外镜片(3b)在遮挡眩光的基础上晚上全透明,白天室外较明亮的时候一定程度的透明;1.2)对于电致变色和PSLC来说,他们是默认透明,加电不透明,因此运算应当以像素点的前亮度值为基础,再经过一定的变换得到目标值,它的也是系数取值的原则是保证外镜片(3b)在遮挡眩光的基础上晚上全透明,白天室外较明亮的时候一定程度的透明;2)当摄像模块只有一个的时候,光流定位模块有两个,亮度计算方式和前述相同,光流模块的其中一个为左眼镜片服务,另外一个为右眼镜片服务,这样可以避免左右镜片的不水平导致的定位误差;3)当摄像模块有二个的时候,光流定位模块有一个,亮度计算方式和前述相同,此时一个摄像模块为左眼镜片服务,另外一个摄像模块为右眼镜片服务,最佳位置都是镜片的上缘中间位置,光流模块的输出由控制电路计算后为两个镜片服务;4)当摄像模块有二个的时候,光流定位模块有二个,亮度计算方式和前述相同,此时一个摄像模块为左眼镜片服务,另外一个摄像模块为右眼镜片服务,光流模块也是一个为左眼服务,另外一个为右眼服务;5)当摄像模块有四个的时候,光流定位模块有二个,摄像模块分成两组,每组两个,一组为左眼服务,另外一组为右眼服务;其原理是一个摄像模块在眼镜片的上缘,同组的另外一个摄像模块在同一个眼镜片的下缘,控制电路(2)综合这两个摄像模块的亮度图像,取得亮度图像的中间插值为Lxy2,最大程度的模拟瞳孔中心看到的亮度图像;然后再基于Lxy2使用前述的亮度计算方式计算送往镜片的亮度值;此时的光流模块是一个为左眼镜片服务,另外一个为右眼镜片服务。
8.根据权利要求1所述的增强现实设备,提供一个按钮,供用户在两个或多个工作模式中切换,其工作模式可能有:1)夜晚模式,此方式最适合夜晚,仅仅遮挡超过指定阈值的亮度的像素点或基于它们的进行图像膨胀操作的结果,其他的像素全透明;2)平均模式,控制电路综合计算摄像模块收到的亮度信息,计算一个平均的遮挡值,结果类始于普通的卤化银变色镜片的工作方式,但是反映速度非常快;3)加强模式,在平均模式的基础上,对于被认为是超过一定阈值的高亮度的像素点或基于它们进行图像的膨胀操作的结果仍然需要遮挡的;4)关闭模式,不遮挡光线,允许自然光线最大的透过镜片。
9.根据权利要求1所述的增强现实设备,它的校准方法有两种:1)第一种是用户在一定距离之外的一个或多个强光源前戴上设备,在瞳距已知的前提下,然后用手扶镜框,左右或者上下调整眼镜的位置,做到最大程度的眩光遮挡效果,然后按松开或按下校准按钮,控制系统自动从光流定位模块读取当前的位置为增强现实镜片的零点位置,作为以后调整的基础;2)第二种仍然要求用户在一定距离之外的一个或多个强光源前戴上设备,然后定制软件通过蓝牙/4G/5G等方式连接到控制电路(2),然后软件发出指令左右或者上下分别调整两个外镜片的显示中心的位置,做到最大程度的眩光遮挡效果,记录作为以后使用。
10.根据权利要求2所述的增强现实设备的简化版本,可以是:1)普通精简:去掉光流定位模块和内镜片,外镜片选择TFT阵列驱动的带较低偏光度偏光片的普通液晶镜片或PSLC镜片;2)或者高度精简:在普通精简的基础上进一步精简,把摄像模块(4)简化为感光模块,比如太阳能电池,环境光检测设备,同时把TFT阵列简化为单个像素的ITO透明电极。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610553794.3A CN107623803A (zh) | 2016-07-15 | 2016-07-15 | 一种带光流定位功能的增强现实的实现方法和设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610553794.3A CN107623803A (zh) | 2016-07-15 | 2016-07-15 | 一种带光流定位功能的增强现实的实现方法和设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107623803A true CN107623803A (zh) | 2018-01-23 |
Family
ID=61087388
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610553794.3A Pending CN107623803A (zh) | 2016-07-15 | 2016-07-15 | 一种带光流定位功能的增强现实的实现方法和设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107623803A (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108827286A (zh) * | 2018-03-15 | 2018-11-16 | 西北工业大学 | 基于瞳孔跟踪的分布可穿戴式低空目标探测技术 |
CN110194103A (zh) * | 2018-02-25 | 2019-09-03 | 李海锋 | 一种基于深度感知和矩阵控制的遮挡光线的系统 |
CN110610669A (zh) * | 2018-06-15 | 2019-12-24 | 深圳富泰宏精密工业有限公司 | 显示模块及具有该显示模块的电子装置 |
CN111708170A (zh) * | 2020-07-10 | 2020-09-25 | 温州明镜智能科技有限公司 | 一种新型vr眼镜镜片组合结构 |
CN111989609A (zh) * | 2018-04-03 | 2020-11-24 | 华为技术有限公司 | 用于头戴式安装的显示设备及显示方法 |
US10845600B2 (en) | 2018-04-24 | 2020-11-24 | Samsung Electronics Co., Ltd. | Controllable modifiable shader layer for head mountable display |
CN112198965A (zh) * | 2020-12-04 | 2021-01-08 | 宁波圻亿科技有限公司 | 一种ar眼镜护目自动控制方法及装置 |
CN112446371A (zh) * | 2020-11-24 | 2021-03-05 | 上海海洋大学 | 多摄像头水下图像识别装置及其增强处理方法 |
CN114255224A (zh) * | 2021-12-21 | 2022-03-29 | 深圳创维数字技术有限公司 | 光学模组调试装置、方法及计算机可读存储介质 |
US11749142B2 (en) | 2018-12-04 | 2023-09-05 | Telefonaktiebolaget Lm Ericsson (Publ) | Optical see-through viewing device and method for providing virtual content overlapping visual objects |
-
2016
- 2016-07-15 CN CN201610553794.3A patent/CN107623803A/zh active Pending
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110194103A (zh) * | 2018-02-25 | 2019-09-03 | 李海锋 | 一种基于深度感知和矩阵控制的遮挡光线的系统 |
CN108827286A (zh) * | 2018-03-15 | 2018-11-16 | 西北工业大学 | 基于瞳孔跟踪的分布可穿戴式低空目标探测技术 |
CN111989609B (zh) * | 2018-04-03 | 2022-06-14 | 华为技术有限公司 | 用于头戴式安装的显示设备及显示方法 |
CN111989609A (zh) * | 2018-04-03 | 2020-11-24 | 华为技术有限公司 | 用于头戴式安装的显示设备及显示方法 |
US11874459B2 (en) | 2018-04-03 | 2024-01-16 | Huawei Technologies Co., Ltd. | Display device for head-mounting and display method |
US10845600B2 (en) | 2018-04-24 | 2020-11-24 | Samsung Electronics Co., Ltd. | Controllable modifiable shader layer for head mountable display |
CN110610669A (zh) * | 2018-06-15 | 2019-12-24 | 深圳富泰宏精密工业有限公司 | 显示模块及具有该显示模块的电子装置 |
US11749142B2 (en) | 2018-12-04 | 2023-09-05 | Telefonaktiebolaget Lm Ericsson (Publ) | Optical see-through viewing device and method for providing virtual content overlapping visual objects |
CN111708170A (zh) * | 2020-07-10 | 2020-09-25 | 温州明镜智能科技有限公司 | 一种新型vr眼镜镜片组合结构 |
CN112446371A (zh) * | 2020-11-24 | 2021-03-05 | 上海海洋大学 | 多摄像头水下图像识别装置及其增强处理方法 |
CN112198965A (zh) * | 2020-12-04 | 2021-01-08 | 宁波圻亿科技有限公司 | 一种ar眼镜护目自动控制方法及装置 |
CN112198965B (zh) * | 2020-12-04 | 2021-03-09 | 宁波圻亿科技有限公司 | 一种ar眼镜护目自动控制方法及装置 |
CN114255224A (zh) * | 2021-12-21 | 2022-03-29 | 深圳创维数字技术有限公司 | 光学模组调试装置、方法及计算机可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107623803A (zh) | 一种带光流定位功能的增强现实的实现方法和设备 | |
CN110325891B (zh) | 用于操纵来自环境光源的光的系统和方法 | |
CN104067334B (zh) | 头戴式显示器的自适应亮度控制 | |
JP6364715B2 (ja) | 透過型表示装置および透過型表示装置の制御方法 | |
CN204595327U (zh) | 头戴式显示装置 | |
US20060140502A1 (en) | Active visor system for eliminating glare in field-of-vision from mobile and transient light sources and reflective surfaces | |
US20130335671A1 (en) | Active reflective surfaces | |
US20180188536A1 (en) | Near eye display multi-component dimming system | |
KR20190017983A (ko) | 사용자의 시야에 가상 이미지를 중첩시키기 위한 디스플레이 장치 | |
CN107305293A (zh) | 具备视力矫正功能的头戴式显示装置 | |
CN105892053A (zh) | 一种虚拟头盔的透镜间距调节方法及其装置 | |
KR20200095985A (ko) | 변색렌즈 및 조도센서를 이용한 머리 착용형 디스플레이 장치 | |
CN111123513A (zh) | 智能显示设备 | |
WO2019196694A1 (zh) | 虚拟现实显示装置、显示设备及视线角度计算方法 | |
CN204595329U (zh) | 头戴式显示装置 | |
US20170116950A1 (en) | Liquid crystal display with variable drive voltage | |
JP2016139116A (ja) | 頭部装着型表示装置、表示方法 | |
CN110346936A (zh) | 一种虚拟现实模式与增强现实模式兼容的头戴显示设备 | |
CN204595328U (zh) | 头戴式显示装置 | |
WO2016101861A1 (zh) | 头戴式显示装置 | |
CN108388014A (zh) | 一种亮度自适应调节ar hud照明光学系统 | |
KR101129372B1 (ko) | 안경 렌즈 및 광학 영상장치를 포함하는 안경 디스플레이장치 | |
AU2020411416B2 (en) | See-through eyeglasses used for vision enhancement | |
CN208013559U (zh) | 一种增强现实ar眼镜 | |
JP2019106723A (ja) | 表示装置、およびコンテキストディスプレイとプロジェクタを用いた表示方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20180123 |