CN107071394A - 一种通过fpga实现hmd低延时视频透视的方法及头戴式显示器 - Google Patents
一种通过fpga实现hmd低延时视频透视的方法及头戴式显示器 Download PDFInfo
- Publication number
- CN107071394A CN107071394A CN201710256903.XA CN201710256903A CN107071394A CN 107071394 A CN107071394 A CN 107071394A CN 201710256903 A CN201710256903 A CN 201710256903A CN 107071394 A CN107071394 A CN 107071394A
- Authority
- CN
- China
- Prior art keywords
- image
- fpga
- hmd
- virtual
- processing terminal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/156—Mixing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
本发明实施例公开了一种通过FPGA实现HMD低延时视频透视的方法及头戴式显示器，用于解决现有技术中的HMD通过将摄像头采集到的图像传输至PC进行处理后，再由PC将处理后的图像数据回传至HMD进行显示而导致的图像数据的传输延时从而加深人体对AR、MR体验的眩晕感，影响佩戴者的体验性的技术问题。本发明实施例方法包括：FPGA获取到由图像采集设备采集的原始图像，将原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至图像处理终端进行图像处理；FPGA接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示。
Description
技术领域
本发明涉及头戴式显示器领域，尤其涉及一种通过FPGA实现HMD低延时视频透视的方法及头戴式显示器。
背景技术
目前，大多数的HMD(Head Mount Display，头戴式显示器)仍需要借助PC机的GPU+CPU进行图像处理。因此对于基于视频透视的HMD来说，就需要先将HMD摄像头采集的图像数据传送至PC，在PC端完成图像畸变矫正、识别、融合等处理，然后再通过HDMI将处理后的图像数据回传至HMD进行显示(如图1所示)。这样就不可避免地会带入图像的数据传输延时，无论是我们看到的现实场景还是经过PC渲染的虚拟景象，而图像的数据传输延时又会加深人体对AR、MR体验的眩晕感，影响佩戴者的体验性。
发明内容
本发明实施例提供了一种通过FPGA实现HMD低延时视频透视的方法及头戴式显示器，解决了现有技术中的HMD通过将摄像头采集到的图像传输至PC进行处理后，再由PC将处理后的图像数据回传至HMD进行显示而导致的图像数据的传输延时从而加深人体对AR、MR体验的眩晕感，影响佩戴者的体验性的技术问题。
本发明实施例提供的一种通过FPGA实现HMD低延时视频透视的方法，包括：
HMD、图像处理终端，HMD包括图像采集设备、FPGA、显示屏，图像采集设备与FPGA连接，FPGA还与图像处理终端及显示屏连接；
方法步骤包括：FPGA获取到由图像采集设备采集的原始图像，将原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至图像处理终端进行图像处理；
FPGA接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示。
可选地，FPGA获取到由图像采集设备采集的原始图像，将原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至图像处理终端进行图像处理包括：
图像采集设备包括第一图像采集设备和第二图像采集设备，FPGA获取到由第一图像采集设备采集的原始图像a和第二图像采集设备采集的原始图像b；
将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，并将第二图像a和第二图像b传输至图像处理终端进行图像处理。
可选地，将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，并将第二图像a和第二图像b传输至图像处理终端进行图像处理具体包括：
将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，并将第二图像a和第二图像b按预设比例缩小后传输至图像处理终端进行图像处理。
可选地，将第二图像a和第二图像b按预设比例缩小后传输至图像处理终端进行图像处理还包括：
根据第二图像a和第二图像b计算获得深度图像e，将第二图像a、第二图像b和深度图像e按预设比例缩小后与misc数据图像拼接为一体并传输至图像处理终端进行图像处理。
可选地，FPGA接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示包括：
若HMD为单屏显示时，FPGA接收到图像处理终端对拼接后的第二图像a、第二图像b和深度图像e进行图像处理后获得的虚拟图像，将虚拟图像放大后与第一图像a和第一图像b进行融合的第一融合图像进行同步融合后输出至显示屏进行显示。
可选地，FPGA接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示包括：
若HMD为双屏显示且显示屏包括第一显示屏和第二显示屏时，FPGA接收到图像处理终端对拼接后的第二图像a、第二图像b和深度图像e进行图像处理后获得的虚拟图像，将虚拟图像分离为对应的第三图像c和第三图像d，并将第三图像c和第三图像d分别放大为第三图像c’和第三图像d’；
将第三图像c’与第一图像a进行同步融合后在第一显示屏进行显示，将第三图像d’与第一图像b进行同步融合后在第二显示屏进行显示。
可选地，若图像采集设备与显示屏的分辨率及帧率不匹配时，在将虚拟图像与第一图像进行同步融合之前，分别对虚拟图像和第一图像进行填充和插帧处理。
可选地，将第二图像a、第二图像b和深度图像e按预设比例缩小具体为：
将第二图像a、第二图像b和深度图像e通过双线性插值算法按预设比例缩小。
可选地，将第二图像a、第二图像b和深度图像e按预设比例缩小后与misc数据图像拼接为一体为通过采用隔行扫描的模式进行图像存取。
可选地，FPGA接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示还包括：
FPGA接收到图像处理终端对第二图像进行图像处理后的以一区别于动图部分的特征色作为背景色的虚拟图像，并在将虚拟图像与第一图像进行同步融合时判断虚拟图像的像素值是否为特征色，若是，则选取第一图像的像素值作为融合后的图像的像素值，否则选取虚拟图像的像素值作为融合后的图像的像素值，并输出融合后的图像至显示屏进行显示。
本发明实施例提供的一种头戴式显示器，包括：
图像采集设备、FPGA、显示屏，图像采集设备与FPGA连接，FPGA还与图像处理终端及显示屏连接；
FPGA包括：获取模块，用于获取到由图像采集设备采集的原始图像，将原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至图像处理终端进行图像处理；
接收处理模块，用于接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示。
从以上技术方案可以看出，本发明实施例具有以下优点：
本发明实施例提供了一种通过FPGA实现HMD低延时视频透视的方法及头戴式显示器，包括：FPGA获取到由图像采集设备采集的原始图像，将原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至图像处理终端进行图像处理；FPGA接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示，本发明实施例中通过分离现实场景和虚拟场景，并将两者的融合向前平移至HMD的FPGA中进行处理，从而使现实场景能近乎实时在HMD中显示，同时在图像处理终端回传图像数据至HMD时只回传经过处理后的虚拟场景图像而并非融合后的现实场景和虚拟场景，使得HMD与图像处理终端间交互的延时大大降低，解决了现有技术中的HMD通过将摄像头采集到的图像传输至PC进行处理后，再由PC将处理后的图像数据回传至HMD进行显示而导致的图像数据的传输延时从而加深人体对AR、MR体验的眩晕感，影响佩戴者的体验性的技术问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。
图1为本发明实施例提供的HMD与PC的图像交互常规方式；
图2为本发明实施例提供的一种通过FPGA实现HMD低延时视频透视的方法的流程示意图；
图3为本发明实施例提供的一种单屏显示时通过FPGA实现HMD低延时视频透视的方法的流程示意图；
图4为本发明实施例提供的单屏显示时FPGA融合处理流程示意图；
图5为本发明实施例提供的一种双屏显示时通过FPGA实现HMD低延时视频透视的方法的流程示意图；
图6为本发明实施例提供的FPGA处理的视频流直观示意图；
图7为本发明实施例提供的本发明实施例提供的双屏显示时FPGA融合处理流程示意图；
图8为本发明实施例提供的虚拟场景和现实场景融合示意图。
具体实施方式
本发明实施例提供了一种通过FPGA实现HMD低延时视频透视的方法及头戴式显示器，用于解决现有技术中的HMD通过将摄像头采集到的图像传输至PC进行处理后，再由PC将处理后的图像数据回传至HMD进行显示而导致的图像数据的传输延时从而加深人体对AR、MR体验的眩晕感，影响佩戴者的体验性的技术问题。
为使得本发明的发明目的、特征、优点能够更加的明显和易懂，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，下面所描述的实施例仅仅是本发明一部分实施例，而非全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
请参阅图2，本发明实施例提供的一种通过FPGA实现HMD低延时视频透视的方法，包括：
HMD、图像处理终端，HMD包括图像采集设备、FPGA、显示屏，图像采集设备与FPGA连接，FPGA还与图像处理终端及显示屏连接；其中，图像处理终端可以为PC机、智能平板电脑、笔记本电脑等可对图像进行渲染处理的智能终端，图像采集设备可以为摄像头、图像采集仪等可以实时采集图像的仪器设备。
方法步骤包括：101、FPGA获取到由图像采集设备采集的原始图像，将原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至图像处理终端进行图像处理；
首先，由HMD上的图像采集设备(如摄像头)采集到原始图像后，在FPGA中将所获取到的每个摄像头采集的标准分辨率的原始图像复制为两路相同的图像数据，即第一图像和第二图像，其中一路图像(第一图像)保持分辨率保持不变，用于实时显示；另外一路图像(第二图像)传输至图像处理终端中进行图像的渲染处理。
102、FPGA接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示。
在图像处理终端完成了对于第二图像的渲染处理后，图像处理终端将处理完毕后的第二图像回传至FPGA，FPGA即可接收到图像处理终端对第二图像进行图像处理后的虚拟图像，并将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示，可完成实时采集的现实场景图像与经过图像处理终端渲染处理的虚拟场景图像的融合显示。
需要说明的是，FPGA为通过一根USB3.0数据线将第二图像传输至图像处理终端进行处理，然后，图像处理终端通过HDMI(高清晰度多媒体接口)将对第二图像进行处理后得到的虚拟图像回传至HMD的FPGA中进行融合处理。
此外，当HMD中的图像采集设备包括有第一图像采集设备和第二图像采集设备的时候，如同时包括有左眼摄像头和右眼摄像头，此时FPGA获取到由第一图像采集设备(左眼摄像头)采集的原始图像a和第二图像采集设备(右眼摄像头)采集的原始图像b；
将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，并将第二图像a和第二图像b传输至图像处理终端进行图像处理。
本发明实施例提供了一种通过FPGA实现HMD低延时视频透视的方法，包括：FPGA获取到由图像采集设备采集的原始图像，将原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至图像处理终端进行图像处理；FPGA接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示，本发明实施例中通过分离现实场景和虚拟场景，并将两者的融合向前平移至HMD的FPGA中进行处理，从而使现实场景能近乎实时在HMD中显示，同时在图像处理终端回传图像数据至HMD时只回传经过处理后的虚拟场景图像而并非融合后的现实场景和虚拟场景，使得HMD与图像处理终端间交互的延时大大降低，解决了现有技术中的HMD通过将摄像头采集到的图像传输至PC进行处理后，再由PC将处理后的图像数据回传至HMD进行显示而导致的图像数据的传输延时从而加深人体对AR、MR体验的眩晕感，影响佩戴者的体验性的技术问题。
以上为对本发明实施例提供的一种通过FPGA实现HMD低延时视频透视的方法的一个实施例的详细描述，以下将对本发明实施例提供的一种单屏显示时通过FPGA实现HMD低延时视频透视的方法的一个实施例进行详细的描述。
请参阅图3，本发明实施例提供的一种单屏显示时通过FPGA实现HMD低延时视频透视的方法的一个实施例包括：
201、FPGA获取到由第一图像采集设备采集的原始图像a和第二图像采集设备采集的原始图像b，将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，并将第二图像a和第二图像b按预设比例缩小后传输至图像处理终端进行图像处理；
首先，FPGA获取到由第一图像采集设备(如左眼摄像头)采集的原始图像a和第二图像采集设备(如右眼摄像头)采集的原始图像b，FPGA将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，根据第二图像a和第二图像b计算获得深度图像e，其中，深度图像e具有和第二图像a和第二图像b同样的分辨率，将第二图像a、第二图像b和深度图像e按预设比例(如1/2比例或1/3比例等，根据实际需要进行选择)缩小后与如IMU、按键等的misc数据图像拼接为一体并传输至图像处理终端进行图像处理。
202、若HMD为单屏显示时，FPGA接收到图像处理终端对拼接后的第二图像a、第二图像b和深度图像e进行图像处理后获得的虚拟图像，将虚拟图像放大后与第一图像a和第一图像b进行融合的第一融合图像进行同步融合后输出至显示屏进行显示。
如果HMD为单屏显示时(即采用单块显示屏)，FPGA接收到图像处理终端对拼接后的第二图像a、第二图像b和深度图像e进行图像处理后获得的虚拟图像，将虚拟图像放大后与第一图像a和第一图像b进行融合的第一融合图像进行同步融合后输出至显示屏进行显示。
需要说明的是，若图像采集设备与显示屏的分辨率及帧率不匹配时，在将虚拟图像与第一图像进行同步融合之前，分别对虚拟图像和第一图像进行填充和插帧处理。通常，摄像头和显示屏的分辨率及帧率会存在不匹配的情况，以当前的实际应用为例，摄像头的分辨率最大支持1920*1080@60Hz，而显示屏单屏分辨率为1080*1200@90Hz。因此只有让摄像头输出1080*1080@60Hz，然后再对图像进行列填充和插帧处理，使其达到1080*1200@90Hz才能在屏上进行最大化的图像输出显示。当然，如果显示屏的分辨率和帧率完全匹配摄像头，放大/填充和插帧步骤完全可省去。如图4所示，即为本发明实施例提供的单屏显示时FPGA融合处理流程示意图。
此外，本发明实施例中采用双线性插值算法将图像按一定的比例缩小，并利用DDR缓存功能实现左右眼图像的同步。数据同步之后，合并左右眼图像并利用一根USB3.0将图像传送至PC。PC根据该缩小版的现实图像处理产生同样大小的虚拟图像回传至HMD。即将第二图像a、第二图像b和深度图像e通过双线性插值算法按预设比例缩小，并利用DDR缓存功能实现左右眼图像的同步。且在将第二图像a、第二图像b和深度图像e按预设比例缩小后与misc数据图像拼接为一体时，可以通过采用隔行扫描的模式进行图像存取，目的是为了降低DDR的使用带宽。此外，以常规的处理方式，将缩小的3路图像在DDR缓存同步亦可实现。
为使虚拟图像和现实图像能顺利融合，本发明实施例对图像处理终端产生虚拟图像具有一定的约束，FPGA接收到图像处理终端对第二图像进行图像处理后的以一区别于动图部分的特征色作为背景色的虚拟图像，并在将虚拟图像与第一图像进行同步融合时判断虚拟图像的像素值是否为特征色，若是，则选取第一图像的像素值作为融合后的图像的像素值，否则选取虚拟图像的像素值作为融合后的图像的像素值，并输出融合后的图像至显示屏进行显示。即要求图像处理终端输出虚拟图像时，选择一个特征色作为虚拟图像的背景色(如RGB＝(0,0,0))，且其动图部分必须有别于该特征色。融合时，只需判断虚拟图像像素值是否为该特征色。若是，则选取现实场景图像的像素值作为融合后的图像的像素值，反之则选取虚拟图像的像素值即可。
本发明实施例提供了一种单屏显示时通过FPGA实现HMD低延时视频透视的方法，包括：FPGA获取到由第一图像采集设备采集的原始图像a和第二图像采集设备采集的原始图像b，将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，并将第二图像a和第二图像b按预设比例缩小后传输至图像处理终端进行图像处理；FPGA接收到图像处理终端对拼接后的第二图像a、第二图像b和深度图像e进行图像处理后获得的虚拟图像，将虚拟图像放大后与第一图像a和第一图像b进行融合的第一融合图像进行同步融合后输出至显示屏进行显示，通过分离现实场景和虚拟场景，并将两者的融合向前平移至HMD的FPGA中进行处理，从而使现实场景能近乎实时在HMD中显示，同时通过缩放传输的方式降低了与图像处理终端交互的虚拟场景的延时，实现了HMD低延时视频透视，解决了现有技术中的HMD通过将摄像头采集到的图像传输至PC进行处理后，再由PC将处理后的图像数据回传至HMD进行显示而导致的图像数据的传输延时从而加深人体对AR、MR体验的眩晕感，影响佩戴者的体验性的技术问题。
以上为对本发明实施例提供的一种单屏显示时通过FPGA实现HMD低延时视频透视的方法的一个实施例的详细描述，以下将对本发明实施例提供的一种双屏显示时通过FPGA实现HMD低延时视频透视的方法的一个实施例进行详细的描述。
请参阅图5，本发明实施例提供的一种双屏显示时通过FPGA实现HMD低延时视频透视的方法的一个实施例包括：
301、FPGA获取到由第一图像采集设备采集的原始图像a和第二图像采集设备采集的原始图像b，将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，并将第二图像a和第二图像b按预设比例缩小后传输至图像处理终端进行图像处理；
首先，FPGA获取到由第一图像采集设备(如左眼摄像头)采集的原始图像a和第二图像采集设备(如右眼摄像头)采集的原始图像b，FPGA将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，根据第二图像a和第二图像b计算获得深度图像e，其中，深度图像e具有和第二图像a和第二图像b同样的分辨率，将第二图像a、第二图像b和深度图像e按预设比例(如1/2比例或1/3比例等，根据实际需要进行选择)缩小后与如IMU、按键等的misc数据图像拼接为一体(如拼接为一个四方格的图像数据)并传输至图像处理终端进行图像处理。如图6所示，为FPGA处理的视频流直观示意图。
302、若HMD为双屏显示且显示屏包括第一显示屏和第二显示屏时，FPGA接收到图像处理终端对拼接后的第二图像a、第二图像b和深度图像e进行图像处理后获得的虚拟图像，将虚拟图像分离为对应的第三图像c和第三图像d，并将第三图像c和第三图像d分别放大为第三图像c’和第三图像d’；将第三图像c’与第一图像a进行同步融合后在第一显示屏进行显示，将第三图像d’与第一图像b进行同步融合后在第二显示屏进行显示。
如果HMD为双屏显示且显示屏包括第一显示屏和第二显示屏时(即显示屏包括有左眼显示屏和右眼显示屏)，FPGA接收到图像处理终端对拼接后的第二图像a、第二图像b和深度图像e进行图像处理后获得的虚拟图像，将虚拟图像分离为对应的第三图像c和第三图像d，并将第三图像c和第三图像d分别放大为第三图像c’和第三图像d’；将第三图像c’与第一图像a进行同步融合后在第一显示屏进行显示，将第三图像d’与第一图像b进行同步融合后在第二显示屏进行显示。为尽量降低图像处理终端对图像的处理的负载以争取更低的延迟，本发明实施例中还需要对HMD屏幕的驱动进行修改，使其在图像处理终端侧显示为真实屏幕1/2的尺寸，亦即第三图像c、第三图像d的分辨率为第二图像a、第二图像b的一半。FPGA接收到图像处理终端的虚拟场景图像后，先对齐放大成第三图像c’和第三图像d’，最后再与现实图像融合成左眼融合图像f和右眼融合图像g，最终输出到屏幕进行MR显示。
需要说明的是，若图像采集设备与显示屏的分辨率及帧率不匹配时，在将虚拟图像与第一图像进行同步融合之前，分别对虚拟图像和第一图像进行填充和插帧处理。通常，摄像头和显示屏的分辨率及帧率会存在不匹配的情况，以当前的实际应用为例，摄像头的分辨率最大支持1920*1080@60Hz，而显示屏单屏分辨率为1080*1200@90Hz。因此只有让摄像头输出1080*1080@60Hz，然后再对图像进行列填充和插帧处理，使其达到1080*1200@90Hz才能在屏上进行最大化的图像输出显示。当然，如果显示屏的分辨率和帧率完全匹配摄像头，放大/填充和插帧步骤完全可省去。如图7所示，即为本发明实施例提供的双屏显示时FPGA融合处理流程示意图。总体而言，本发明实施例中可实现将现实场景的延迟降到1/90s＝11.1ms，虚拟场景的延迟降到(1/90+2/60)s＝44.4ms的超低图像处理延时的解决方案。相比而言，对于不带放大/填充和插帧的摄像头和屏幕完全匹配的应用，本方案可实现近乎实时现实场景的“零”延迟显示。
此外，本发明实施例中采用双线性插值算法将图像按一定的比例缩小，并利用DDR缓存功能实现左右眼图像的同步。数据同步之后，合并左右眼图像并利用一根USB3.0将图像传送至PC。PC根据该缩小版的现实图像处理产生同样大小的虚拟图像回传至HMD。即将第二图像a、第二图像b和深度图像e通过双线性插值算法按预设比例缩小，并利用DDR缓存功能实现左右眼图像的同步。且在将第二图像a、第二图像b和深度图像e按预设比例缩小后与misc数据图像拼接为一体时，可以通过采用隔行扫描的模式进行图像存取，目的是为了降低DDR的使用带宽。此外，以常规的处理方式，将缩小的3路图像在DDR缓存同步亦可实现。由于本方案将图像缩小比例设定为原图像行列的1/2(实际缩放比例可任意调整)，压缩后的图像数据为原图像的1/4。如此，合并左右眼后的图像数据量仅为标准分辨率的一半，不仅降低了虚拟图像数据回传至HMD的传输延时，同时也将原先HMD与PC之间的图像数据线由原先的两根降低到一根。
为使虚拟图像和现实图像能顺利融合，本发明实施例对图像处理终端产生虚拟图像具有一定的约束，FPGA接收到图像处理终端对第二图像进行图像处理后的以一区别于动图部分的特征色作为背景色的虚拟图像，并在将虚拟图像与第一图像进行同步融合时判断虚拟图像的像素值是否为特征色，若是，则选取第一图像的像素值作为融合后的图像的像素值，否则选取虚拟图像的像素值作为融合后的图像的像素值，并输出融合后的图像至显示屏进行显示。即要求图像处理终端输出虚拟图像时，选择一个特征色作为虚拟图像的背景色(如RGB＝(0,0,0))，且其动图部分必须有别于该特征色。融合时，只需判断虚拟图像像素值是否为该特征色。若是，则选取现实场景图像的像素值作为融合后的图像的像素值，反之则选取虚拟图像的像素值即可。如图8所示，为本发明实施例提供的虚拟场景和现实场景融合示意图。
本发明实施例中提供了一种双屏显示时通过FPGA实现HMD低延时视频透视的方法，包括：FPGA获取到由第一图像采集设备采集的原始图像a和第二图像采集设备采集的原始图像b，将原始图像a复制为两路相同的第一图像a和第二图像a及将原始图像b复制为两路相同的第一图像b和第二图像b，并将第二图像a和第二图像b按预设比例缩小后传输至图像处理终端进行图像处理；若HMD为双屏显示且显示屏包括第一显示屏和第二显示屏时，FPGA接收到图像处理终端对拼接后的第二图像a、第二图像b和深度图像e进行图像处理后获得的虚拟图像，将虚拟图像分离为对应的第三图像c和第三图像d，并将第三图像c和第三图像d分别放大为第三图像c’和第三图像d’；将第三图像c’与第一图像a进行同步融合后在第一显示屏进行显示，将第三图像d’与第一图像b进行同步融合后在第二显示屏进行显示，通过在HMD中将双眼摄像头捕捉的现实场景与PC处理产生的虚拟场景融合进行回显，以达到近乎实时显示现实场景，同时压缩与PC交互的图像传输，极大地降低了虚拟场景的延迟，解决了现有技术中的HMD通过将摄像头采集到的图像传输至PC进行处理后，再由PC将处理后的图像数据回传至HMD进行显示而导致的图像数据的传输延时从而加深人体对AR、MR体验的眩晕感，影响佩戴者的体验性的技术问题。
以上为对本发明实施例提供的一种双屏显示时通过FPGA实现HMD低延时视频透视的方法进行的详细描述，以下将对本发明实施例提供的一种头戴式显示器进行详细的描述。
本发明实施例提供的一种头戴式显示器，包括：
图像采集设备、FPGA、显示屏，图像采集设备与FPGA连接，FPGA还与图像处理终端及显示屏连接；
FPGA包括：获取模块，用于获取到由图像采集设备采集的原始图像，将原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至图像处理终端进行图像处理；
接收处理模块，用于接收到图像处理终端对第二图像进行图像处理后的虚拟图像，将虚拟图像与第一图像进行同步融合后输出至显示屏进行显示。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (11)
1.一种通过FPGA实现HMD低延时视频透视的方法，其特征在于，包括：
HMD、图像处理终端，所述HMD包括图像采集设备、FPGA、显示屏，所述图像采集设备与所述FPGA连接，所述FPGA还与所述图像处理终端及所述显示屏连接；
方法步骤包括：所述FPGA获取到由所述图像采集设备采集的原始图像，将所述原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至所述图像处理终端进行图像处理；
所述FPGA接收到所述图像处理终端对所述第二图像进行图像处理后的虚拟图像，将所述虚拟图像与所述第一图像进行同步融合后输出至所述显示屏进行显示。
2.根据权利要求1所述的通过FPGA实现HMD低延时视频透视的方法，其特征在于，所述FPGA获取到由所述图像采集设备采集的原始图像，将所述原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至所述图像处理终端进行图像处理包括：
所述图像采集设备包括第一图像采集设备和第二图像采集设备，所述FPGA获取到由第一图像采集设备采集的原始图像a和第二图像采集设备采集的原始图像b；
将所述原始图像a复制为两路相同的第一图像a和第二图像a及将所述原始图像b复制为两路相同的第一图像b和第二图像b，并将所述第二图像a和所述第二图像b传输至所述图像处理终端进行图像处理。
3.根据权利要求2所述的通过FPGA实现HMD低延时视频透视的方法，其特征在于，所述将所述原始图像a复制为两路相同的第一图像a和第二图像a及将所述原始图像b复制为两路相同的第一图像b和第二图像b，并将所述第二图像a和所述第二图像b传输至所述图像处理终端进行图像处理具体包括：
将所述原始图像a复制为两路相同的第一图像a和第二图像a及将所述原始图像b复制为两路相同的第一图像b和第二图像b，并将所述第二图像a和所述第二图像b按预设比例缩小后传输至所述图像处理终端进行图像处理。
4.根据权利要求3所述的通过FPGA实现HMD低延时视频透视的方法，其特征在于，所述将第二图像a和第二图像b按预设比例缩小后传输至所述图像处理终端进行图像处理还包括：
根据第二图像a和第二图像b计算获得深度图像e，将所述第二图像a、所述第二图像b和所述深度图像e按预设比例缩小后与misc数据图像拼接为一体并传输至所述图像处理终端进行图像处理。
5.根据权利要求4所述的通过FPGA实现HMD低延时视频透视的方法，其特征在于，所述FPGA接收到所述图像处理终端对所述第二图像进行图像处理后的虚拟图像，将所述虚拟图像与所述第一图像进行同步融合后输出至所述显示屏进行显示包括：
若所述HMD为单屏显示时，所述FPGA接收到所述图像处理终端对拼接后的所述第二图像a、所述第二图像b和所述深度图像e进行图像处理后获得的虚拟图像，将所述虚拟图像放大后与所述第一图像a和所述第一图像b进行融合的第一融合图像进行同步融合后输出至所述显示屏进行显示。
6.根据权利要求4所述的通过FPGA实现HMD低延时视频透视的方法，其特征在于，所述FPGA接收到所述图像处理终端对所述第二图像进行图像处理后的虚拟图像，将所述虚拟图像与所述第一图像进行同步融合后输出至所述显示屏进行显示包括：
若所述HMD为双屏显示且所述显示屏包括第一显示屏和第二显示屏时，所述FPGA接收到所述图像处理终端对拼接后的所述第二图像a、所述第二图像b和所述深度图像e进行图像处理后获得的虚拟图像，将所述虚拟图像分离为对应的第三图像c和第三图像d，并将所述第三图像c和所述第三图像d分别放大为第三图像c’和第三图像d’；
将所述第三图像c’与所述第一图像a进行同步融合后在所述第一显示屏进行显示，将所述第三图像d’与所述第一图像b进行同步融合后在所述第二显示屏进行显示。
7.根据权利要求1所述的通过FPGA实现HMD低延时视频透视的方法，其特征在于，若所述图像采集设备与所述显示屏的分辨率及帧率不匹配时，在将所述虚拟图像与所述第一图像进行同步融合之前，分别对所述虚拟图像和所述第一图像进行填充和插帧处理。
8.根据权利要求4所述的通过FPGA实现HMD低延时视频透视的方法，其特征在于，所述将所述第二图像a、所述第二图像b和所述深度图像e按预设比例缩小具体为：
将所述第二图像a、所述第二图像b和所述深度图像e通过双线性插值算法按预设比例缩小。
9.根据权利要求4所述的通过FPGA实现HMD低延时视频透视的方法，其特征在于，所述将所述第二图像a、所述第二图像b和所述深度图像e按预设比例缩小后与misc数据图像拼接为一体为通过采用隔行扫描的模式进行图像存取。
10.根据权利要求1所述的通过FPGA实现HMD低延时视频透视的方法，其特征在于，所述FPGA接收到所述图像处理终端对所述第二图像进行图像处理后的虚拟图像，将所述虚拟图像与所述第一图像进行同步融合后输出至所述显示屏进行显示还包括：
所述FPGA接收到所述图像处理终端对所述第二图像进行图像处理后的以一区别于动图部分的特征色作为背景色的虚拟图像，并在将所述虚拟图像与所述第一图像进行同步融合时判断所述虚拟图像的像素值是否为所述特征色，若是，则选取所述第一图像的像素值作为融合后的图像的像素值，否则选取所述虚拟图像的像素值作为融合后的图像的像素值，并输出所述融合后的图像至所述显示屏进行显示。
11.一种头戴式显示器，其特征在于，包括：
图像采集设备、FPGA、显示屏，所述图像采集设备与所述FPGA连接，所述FPGA还与图像处理终端及所述显示屏连接；
所述FPGA包括：获取模块，用于获取到由所述图像采集设备采集的原始图像，将所述原始图像复制为两路相同的第一图像和第二图像，并将第二图像传输至所述图像处理终端进行图像处理；
接收处理模块，用于接收到所述图像处理终端对所述第二图像进行图像处理后的虚拟图像，将所述虚拟图像与所述第一图像进行同步融合后输出至所述显示屏进行显示。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710256903.XA CN107071394A (zh) | 2017-04-19 | 2017-04-19 | 一种通过fpga实现hmd低延时视频透视的方法及头戴式显示器 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710256903.XA CN107071394A (zh) | 2017-04-19 | 2017-04-19 | 一种通过fpga实现hmd低延时视频透视的方法及头戴式显示器 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN107071394A true CN107071394A (zh) | 2017-08-18 |
Family
ID=59599791
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710256903.XA Pending CN107071394A (zh) | 2017-04-19 | 2017-04-19 | 一种通过fpga实现hmd低延时视频透视的方法及头戴式显示器 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107071394A (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108632598A (zh) * | 2018-05-25 | 2018-10-09 | 小派科技（上海）有限责任公司 | 降低vr设备mtp延时的方法及装置 |
| CN110361865A (zh) * | 2018-04-10 | 2019-10-22 | 幻视互动（北京）科技有限公司 | 一种可加速数字光瞳信号传输的视网膜光场显示mr混合现实眼镜 |
| CN111726530A (zh) * | 2020-06-28 | 2020-09-29 | 杭州海康威视数字技术股份有限公司 | 一种多路视频流获取方法、装置及设备 |
| CN114078102A (zh) * | 2020-08-11 | 2022-02-22 | 北京芯海视界三维科技有限公司 | 图像处理装置和虚拟现实设备 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070242086A1 (en) * | 2006-04-14 | 2007-10-18 | Takuya Tsujimoto | Image processing system, image processing apparatus, image sensing apparatus, and control method thereof |
| CN103530881A (zh) * | 2013-10-16 | 2014-01-22 | 北京理工大学 | 适用于移动终端的户外增强现实无标志点跟踪注册方法 |
| CN104883556A (zh) * | 2015-05-25 | 2015-09-02 | 深圳市虚拟现实科技有限公司 | 基于增强现实的三维显示方法和增强现实眼镜 |
-
2017
- 2017-04-19 CN CN201710256903.XA patent/CN107071394A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070242086A1 (en) * | 2006-04-14 | 2007-10-18 | Takuya Tsujimoto | Image processing system, image processing apparatus, image sensing apparatus, and control method thereof |
| CN103530881A (zh) * | 2013-10-16 | 2014-01-22 | 北京理工大学 | 适用于移动终端的户外增强现实无标志点跟踪注册方法 |
| CN104883556A (zh) * | 2015-05-25 | 2015-09-02 | 深圳市虚拟现实科技有限公司 | 基于增强现实的三维显示方法和增强现实眼镜 |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110361865A (zh) * | 2018-04-10 | 2019-10-22 | 幻视互动（北京）科技有限公司 | 一种可加速数字光瞳信号传输的视网膜光场显示mr混合现实眼镜 |
| CN108632598A (zh) * | 2018-05-25 | 2018-10-09 | 小派科技（上海）有限责任公司 | 降低vr设备mtp延时的方法及装置 |
| CN111726530A (zh) * | 2020-06-28 | 2020-09-29 | 杭州海康威视数字技术股份有限公司 | 一种多路视频流获取方法、装置及设备 |
| CN115297257A (zh) * | 2020-06-28 | 2022-11-04 | 杭州海康威视数字技术股份有限公司 | 一种多路视频流获取方法、装置及设备 |
| CN111726530B (zh) * | 2020-06-28 | 2022-12-02 | 杭州海康威视数字技术股份有限公司 | 一种多路视频流获取方法、装置及设备 |
| CN115297257B (zh) * | 2020-06-28 | 2024-02-02 | 杭州海康威视数字技术股份有限公司 | 一种多路视频流获取方法、装置及设备 |
| CN114078102A (zh) * | 2020-08-11 | 2022-02-22 | 北京芯海视界三维科技有限公司 | 图像处理装置和虚拟现实设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107071394A (zh) | 一种通过fpga实现hmd低延时视频透视的方法及头戴式显示器 | |
| US6704042B2 (en) | Video processing apparatus, control method therefor, and storage medium | |
| CN112543317B (zh) | 高分辨率单目2d视频到双目3d视频的转制方法 | |
| US9924153B2 (en) | Parallel scaling engine for multi-view 3DTV display and method thereof | |
| US6765568B2 (en) | Electronic stereoscopic media delivery system | |
| US6747610B1 (en) | Stereoscopic image display apparatus capable of selectively displaying desired stereoscopic image | |
| JP2003111101A (ja) | 立体画像処理方法、装置、およびシステム | |
| CN104902193B (zh) | 一种基于fpga对图像数据进行分割处理和显示的方法 | |
| WO2007148434A1 (ja) | 画像再生装置 | |
| US20060285832A1 (en) | Systems and methods for creating and recording digital three-dimensional video streams | |
| CN107249096A (zh) | 全景摄像机及其拍摄方法 | |
| JP2008544679A (ja) | 画像および関連データの組み合わされた交換 | |
| CN106713942A (zh) | 视频处理方法和装置 | |
| CN108460721A (zh) | 一种基于硬件加速卡的全景视频拼接系统及方法 | |
| KR100748946B1 (ko) | 입체영상의 처리방법 | |
| CN103020849A (zh) | 动景展示网络销售方法及动景展示网络销售系统 | |
| US9258543B2 (en) | Method and device for generating three-dimensional image | |
| CN106161987B (zh) | 一种多图像同屏显示方法及多图像同屏显示系统 | |
| CN111860363A (zh) | 一种视频图像的处理方法及装置、电子设备、存储介质 | |
| US20030174203A1 (en) | Image converter for providing flicker-free stereoscopic image based on top-down split frame sequential suitable for computer communications | |
| Curti et al. | 3D effect generation from monocular view | |
| CN107277492A (zh) | 一种3d图像显示方法及系统 | |
| CN102761731B (zh) | 数据内容的显示方法、装置和系统 | |
| CN111932459A (zh) | 视频图像的处理方法及装置、电子设备、存储介质 | |
| CN111246274A (zh) | 确定用于显示信息的数据的方法及显示信息的方法、装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170818 |