CN108182726A - 三维重建方法、云端服务器及计算机可读存储介质 - Google Patents
三维重建方法、云端服务器及计算机可读存储介质 Download PDFInfo
- Publication number
- CN108182726A CN108182726A CN201711470500.1A CN201711470500A CN108182726A CN 108182726 A CN108182726 A CN 108182726A CN 201711470500 A CN201711470500 A CN 201711470500A CN 108182726 A CN108182726 A CN 108182726A
- Authority
- CN
- China
- Prior art keywords
- image
- target object
- dimensional
- mobile terminal
- belonging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明公开了一种三维重建方法,应用于云端服务器,该方法包括:接收多个移动终端采集的图像;从所接收到的图像中获取属于同一目标对象的图像;根据所述属于同一目标对象的图像对所述目标对象进行三维重建。本发明实施例还公开了一种云端服务器和计算机可读存储介质。由此,能够方便地实现真实世界的三维重建。
Description
技术领域
本发明涉及虚拟现实技术领域,尤其涉及一种三维重建方法、云端服务器及计算机可读存储介质。
背景技术
三维重建(3D Reconstruction)是指对三维物体建立适合计算机表示和处理的数学模型,是在计算机环境下对其进行处理、操作和分析其性质的基础,也是在计算机中建立表达客观世界的虚拟现实的关键技术。
三维重建的过程总共分为两大步骤,先对物体进行360°全面拍摄,再进行后期合成。针对物体的360°全面拍摄,现有的方式是拿着相机从下而上或从上而下一圈一圈地“扫描”物体,确保物体所有可以拍到的地方都拍摄到,或者搭建一个扫描空间,将物体放在中间,用较多数量的相机同时拍摄。而针对场景的拍摄,例如一条街道或者一个大殿,用上述两种方式较难实现,可以选择全景照片。
然而,若是用一个相机对物体进行360°全面拍摄,当该物体较大时会非常费时。若搭建扫描空间,则需要非常多个相机,且搭建过程比较麻烦。而全景照片的镜头畸变比较严重,需要首先进行镜头校准。
发明内容
本发明的主要目的在于提出一种三维重建方法及对应的云端服务器,旨在解决如何方便地实现真实世界的三维重建的问题。
为实现上述目的,本发明提供的一种三维重建方法,应用于云端服务器,该方法包括步骤:
接收多个移动终端采集的图像;
从所接收到的图像中获取属于同一目标对象的图像;及
根据所述属于同一目标对象的图像对所述目标对象进行三维重建。
可选地,根据所述属于同一目标对象的图像对所述目标对象进行三维重建的步骤具体包括:
对所述属于同一目标对象的图像进行预处理;
从所述属于同一目标对象的图像中提取三维信息;
对所述属于同一目标对象的图像进行配准;
根据所述三维信息和配准后的图像对所述目标对象进行三维重建。
可选地,该方法在所述接收多个移动终端采集的图像的步骤之前还包括步骤:
获取欲重建的目标对象的位置信息;
侦测所述目标对象预设范围内的移动终端;
向侦测到的移动终端发送图像采集指令。
可选地,在所述接收多个移动终端采集的图像的步骤中,所述云端服务器接收所述多个移动终端从不同的角度对所述目标对象进行分时图像采集得到的图像,以及记的所述图像的三维信息。
可选地,所述三维信息包括二维信息、深度信息、角度信息。
可选地,在从所接收到的图像中获取属于同一目标对象的图像的步骤中,通过卷积神经网络算法对所接收到的图像进行分类,识别出与某个图像相关的之前采集的图像,从而区分出所述属于同一目标对象的图像。
可选地,所述预处理为畸变矫正。
可选地,所述图像配准包括:图像特征提取、特征匹配、空间变换模型类型的确定、模型参数的估计、图像的插值与变换、得到配准结果。
此外,为实现上述目的,本发明还提出一种云端服务器,所述云端服务器包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的三维重建程序,所述三维重建程序被所述处理器执行时实现如上述的三维重建方法的步骤。
进一步地,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有三维重建程序,所述三维重建程序被处理器执行时实现如上述的三维重建方法的步骤。
本发明提出的三维重建方法、云端服务器及计算机可读存储介质,能够基于不同的移动终端对同一目标对象的分时图像采集和云端服务器的运算处理,实现对目标对象的三维重建,使用户可以体验到和真实世界基本一致的虚拟世界。另外,还可以对需要进行三维重建的目标对象附近的移动终端4发送图像采集指令,以控制所述移动终端4对所述目标对象进行不同角度的图像采集,提高图像采集的精度和速度,以提升三维重建的效率。
附图说明
图1为实现本发明各个实施例的移动终端的硬件结构示意图;
图2为如图1所示的移动终端的无线通信系统示意图;
图3为实现本发明各个实施例的一种应用环境架构图;
图4为本发明第一实施例提出的一种三维重建方法的流程图;
图5为本发明中多个移动终端拍摄同一目标对象的示意图;
图6为本发明第二实施例提出的一种三维重建方法的流程图;
图7为本发明中畸变矫正的示意图;
图8为本发明中图像配准的基本流程示意图;
图9为本发明第三实施例提出的一种三维重建方法的流程图;
图10为本发明第四实施例提出的一种云端服务器的模块示意图;
图11为本发明第五实施例提出的一种三维重建系统的模块示意图;
图12为本发明第六实施例提出的一种三维重建系统的模块示意图;
图13为本发明第七实施例提出的一种三维重建系统的模块示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant,PDA)、便捷式媒体播放器(Portable Media Player,PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端,以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。
请参阅图1,其为实现本发明各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:RF(Radio Frequency,射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图1对移动终端的各个部件进行具体的介绍:
射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于GSM(Global System of Mobile communication,全球移动通讯系统)、GPRS(General Packet Radio Service,通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000,码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access,时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution,频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution,分时双工长期演进)等。
WiFi属于短距离无线传输技术,移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit,GPU)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。
进一步的,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。
接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。
移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。
为了便于理解本发明实施例,下面对本发明的移动终端所基于的通信网络系统进行描述。
请参阅图2,图2为本发明实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的LTE系统,该LTE系统包括依次通讯连接的UE(User Equipment,用户设备)201,E-UTRAN(Evolved UMTS Terrestrial Radio Access Network,演进式UMTS陆地无线接入网)202,EPC(Evolved Packet Core,演进式分组核心网)203和运营商的IP业务204。
具体地,UE201可以是上述终端100,此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中,eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接,eNodeB2021连接到EPC203,eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity,移动性管理实体)2031,HSS(Home Subscriber Server,归属用户服务器)2032,其它MME2033,SGW(Serving Gate Way,服务网关)2034,PGW(PDN Gate Way,分组数据网络网关)2035和PCRF(Policy andCharging Rules Function,政策和资费功能实体)2036等。其中,MME2031是处理UE201和EPC203之间信令的控制节点,提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送,PGW2035可以提供UE 201的IP地址分配以及其它功能,PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem,IP多媒体子系统)或其它IP业务等。
虽然上述以LTE系统为例进行了介绍,但本领域技术人员应当知晓,本发明不仅仅适用于LTE系统,也可以适用于其他无线通信系统,例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等,此处不做限定。
基于上述移动终端硬件结构以及通信网络系统,提出本发明方法各个实施例。
请参阅图3,图3为实现本发明各个实施例的一种应用环境架构图。本发明可应用于包括,但不仅限于,云端服务器2、移动终端4、网络6的应用环境中。
其中,所述移动终端4可以是移动电话、智能电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、导航装置、车载装置等等的可移动设备。
所述网络6可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯系统(Global System of Mobile communication,GSM)、宽带码分多址(Wideband CodeDivision Multiple Access,WCDMA)、4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi等无线或有线网络。所述云端服务器2通过所述网络6分别与多个所述移动终端4通信连接,以进行数据传输和交互。
本发明提出的一种三维重建方法,用于基于不同的移动终端4对同一目标对象的分时图像采集和云端服务器2的运算处理,实现对目标对象的三维重建。
实施例一
如图4所示,本发明第一实施例提出一种三维重建方法,该方法包括以下步骤:
S400,接收多个移动终端4采集的图像。
具体地,每个移动终端4通过自身的图像采集单元进行拍摄,并将所拍摄物体的三维信息记录下来,通过所述网络6传送至所述云端服务器2。所述云端服务器2接收每个移动终端4采集的图像和对应的三维信息,从而在后续进行云端处理,实现真实世界的三维重建。所述移动终端4的图像采集单元,可以是结构光装置、双摄头等。所述三维信息包括二维信息、深度信息、角度信息等。
S402,从所接收到的图像中获取属于同一目标对象的图像。
具体地,通过全球范围内的不同用户的移动终端4进行分时图像采集,然后将属于同一目标对象的图像进行持续叠加,即可实现对该目标对象的三维重建。例如,一个移动终端4从一个角度拍摄了某个桌子,而另一个移动终端4在一天后,从另一个角度拍摄了该桌子,则这两个移动终端4采集的图像可以持续叠加在一起,在云端对该桌子完成最终的三维重建。参阅图5所示,为多个移动终端4拍摄同一目标对象的示意图。
所述云端服务器2可以通过卷积神经网络算法对所接收到的图像进行分类,识别出与某个图像相关的之前采集的图像,从而区分出属于同一目标对象的图像。所述卷积神经网络算法可以是LeNet-5网络、mobilenet网络等。
S404,根据所述属于同一目标对象的图像对所述目标对象进行三维重建。
具体地,基于多个移动终端4从不同角度采集到的所述属于同一目标对象的图像,所述云端服务器2可以采用三维重建技术对所述目标对象进行三维重建。所述三维重建技术的核心在于持续将不同角度的图像的三维信息进行处理,通过畸变矫正、图像配准等技术进行叠加整合。
通过三维重建,将在云端建立一个与真实世界相同的三维世界,其应用场景可以通过现有的虚拟现实技术让用户感知,同时,加入通信交互,实现同现实世界趋同的网络虚拟现实体验,例如在家中进行网络3D商城的购买体验。
下面以一个应用场景为例进行说明:假设三维世界建立完成后,用户在家里,通过VR设备连接到网络,所呈现出来的是一个虚拟三维世界场景。以商场举例,因为该商场的虚拟三维世界已经建立,用户通过VR设备就可以看到商场的所有三维场景。进一步而言,商场的服务员也可以进行三维重建,因此用户在虚拟三维世界中可以看到实际的服务员的立体影像,并且通过通信技术,可以实现实时对话。
本实施例提出的三维重建方法,可以基于不同的移动终端4对同一目标对象的分时图像采集和云端服务器2的运算处理,实现对目标对象的三维重建,使用户可以体验到和真实世界基本一致的虚拟世界。
实施例二
如图6所示,本发明第二实施例提出一种三维重建方法。在第二实施例中,所述步骤S404具体包括以下步骤:
S4040,对所述属于同一目标对象的图像进行预处理。
具体地,当从各个移动终端4采集的图像中获取到属于同一目标对象的图像后,由于所述图像一般会出现畸变等状况,因此需要先对所述图像进行畸变矫正等预处理。所述畸变是指图像在拍摄过程中,因为光学原因导致的边角变形的情况(参阅图7左侧所示)。常用的畸变矫正算法包括牛顿法、雅克比矩阵求法等。通过所述畸变矫正算法,可以使发现畸变的图像恢复正常状态(参阅图7右侧所示)。
S4042,从所述属于同一目标对象的图像中提取三维信息。
具体地,所述移动终端4记录了所采集的图像的三维信息并发送至所述云端服务器2,所述云端服务器2可以从所述图像中提取出所述三维信息,包括二维信息、深度信息、角度信息等。
S4044,对所述属于同一目标对象的图像进行配准。
具体地,图像配准是指对从不同传感器、不同时相、不同角度所获得的两幅或多幅图像进行最佳匹配的处理过程,需要将各分量图像采用一种几何变换归化到统一的坐标系统中。在配准过程中,通常取其中的一幅图像作为配准的标准,称为参考图像,另一幅图像作为与所述参考图像进行配准的图像,称为输入图像。一般情况下,所述图像配准的基本流程包括:图像特征提取、特征匹配、空间变换模型类型的确定、模型参数的估计、图像的插值与变换、得到配准结果(参阅图8所示)。
S4046,根据所述三维信息和配准后的图像对所述目标对象进行三维重建。
具体地,结合所述三维信息和配准后的图像,所述云端服务器2可以对所述目标对象在云端进行三维重建。例如,采用OpenGL(Open Graphics Library,开放图形库)框架即可进行三维重建。
实施例三
如图9所示,本发明第三实施例提出一种三维重建方法。在第三实施例中,所述三维重建方法的步骤S506-S510与第一实施例的步骤S400-S404相类似,区别在于该方法还包括步骤S500-S504。
该方法包括以下步骤:
S500,获取欲重建的目标对象的位置信息。
具体地,当所述云端服务器2需要对某个物体进行三维重建时,将该物体设置为目标对象,获取该目标对象的位置信息。在本实施例中,若所述目标对象有定位装置,则可以向所述云端服务器2发送自身的位置信息。若所述目标对象没有定位装置,则可以通过位置探测装置探测所述目标对象的位置信息,或者通过所述目标对象附近的定位装置发送的位置信息估算所述目标对象的位置信息,又或者直接接收对已知位置的目标对象的位置信息的输入。
S502,侦测所述目标对象预设范围内的移动终端4。
具体地,当获取到所述目标对象的位置信息后,通过侦测各个移动终端4的定位信息,判断有哪些移动终端4在所述目标对象附近,即处于所述目标对象的预设范围内。
S504,向侦测到的移动终端4发送图像采集指令。
具体地,当侦测出所述目标对象预设范围内的(多个)移动终端4后,所述云端服务器2向侦测到的所述移动终端4发送图像采集指令。所述图像采集指令中可以包括但不限于目标对象、目标对象的位置信息、拍摄角度等图像采集要求。所述云端服务器2可以向侦测到的所述目标对象预设范围内的所有移动终端4均发送所述图像采集指令,也可以从中选择部分位于所述目标对象附近不同角度的移动终端4,向所选择出的部分移动终端4发送所述图像采集指令。
S506,接收多个移动终端4采集的图像。
具体地,每个移动终端4在接收到所述图像采集指令后,通过自身的图像采集单元进行拍摄,并将所拍摄的目标对象的三维信息记录下来,通过所述网络6传送至所述云端服务器2。参阅图5所示,为多个移动终端4拍摄同一目标对象的示意图。所述云端服务器2接收每个移动终端4采集的图像和对应的三维信息,从而在后续进行云端处理,实现真实世界的三维重建。所述移动终端4的图像采集单元,可以是结构光装置、双摄头等。所述三维信息包括二维信息、深度信息、角度信息等。
S508,从所接收到的图像中获取属于同一目标对象的图像。
具体地,通过多个移动终端4进行分时图像采集,然后将属于同一目标对象的图像进行持续叠加,即可实现对该目标对象的三维重建。例如,一个移动终端4从一个角度拍摄了某个桌子,而另一个移动终端4在一天后,从另一个角度拍摄了该桌子,则这两个移动终端4采集的图像可以持续叠加在一起,在云端对该桌子完成最终的三维重建。
所述云端服务器2可以通过卷积神经网络算法对所接收到的图像进行分类,识别出与某个图像相关的之前采集的图像,从而区分出属于同一目标对象的图像。所述卷积神经网络算法可以是LeNet-5网络、mobilenet网络等。
S510,根据所述属于同一目标对象的图像对所述目标对象进行三维重建。
具体地,基于多个移动终端4从不同角度采集到的所述属于同一目标对象的图像,所述云端服务器2可以采用三维重建技术对所述目标对象进行三维重建。所述三维重建技术的核心在于持续将不同角度的图像的三维信息进行处理,通过畸变矫正、图像配准等技术进行叠加整合。该步骤的具体细化流程参阅图6和所述第二实施例,在此不再赘述。
通过三维重建,将在云端建立一个与真实世界相同的三维世界,其应用场景可以通过现有的虚拟现实技术让用户感知,同时,加入通信交互,实现同现实世界趋同的网络虚拟现实体验,例如在家中进行网络3D商城的购买体验。
本实施例提出的三维重建方法,可以对需要进行三维重建的目标对象附近的移动终端4发送图像采集指令,以控制所述移动终端4对所述目标对象进行不同角度的图像采集,从而基于不同的移动终端4对同一目标对象的图像采集和云端服务器2的运算处理,实现对目标对象的三维重建,使用户可以体验到和真实世界基本一致的虚拟世界,并且通过指令控制可以提高图像采集的精度和速度,从而提升三维重建的效率。
本发明进一步提供一种云端服务器,所述云端服务器包括存储器、处理器和三维重建系统。所述三维重建系统用于基于不同的移动终端4对同一目标对象的分时图像采集和云端服务器2的运算处理,实现对目标对象的三维重建。
实施例四
如图10所示,本发明第四实施例提出一种云端服务器2。所述云端服务器2包括存储器20、处理器22和三维重建系统28。
其中,所述存储器20至少包括一种类型的可读存储介质,用于存储安装于所述云端服务器2的操作系统和各类应用软件,例如三维重建系统28的程序代码等。此外,所述存储器20还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器22在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器22通常用于控制所述云端服务器2的总体操作。本实施例中,所述处理器22用于运行所述存储器20中存储的程序代码或者处理数据,例如运行所述三维重建系统28等。
实施例五
如图11所示,本发明第五实施例提出一种三维重建系统28。在本实施例中,所述三维重建系统28包括:
接收模块800,用于接收多个移动终端4采集的图像。
具体地,每个移动终端4通过自身的图像采集单元进行拍摄,并将所拍摄物体的三维信息记录下来,通过所述网络6传送至所述云端服务器2。所述接收模块800接收每个移动终端4采集的图像和对应的三维信息,从而在后续进行云端处理,实现真实世界的三维重建。所述移动终端4的图像采集单元,可以是结构光装置、双摄头等。所述三维信息包括二维信息、深度信息、角度信息等。
获取模块802,用于从所接收到的图像中获取属于同一目标对象的图像。
具体地,通过全球范围内的不同用户的移动终端4进行分时图像采集,然后将属于同一目标对象的图像进行持续叠加,即可实现对该目标对象的三维重建。例如,一个移动终端4从一个角度拍摄了某个桌子,而另一个移动终端4在一天后,从另一个角度拍摄了该桌子,则这两个移动终端4采集的图像可以持续叠加在一起,在云端对该桌子完成最终的三维重建。参阅图5所示,为多个移动终端4拍摄同一目标对象的示意图。
所述获取模块802可以通过卷积神经网络算法对所接收到的图像进行分类,识别出与某个图像相关的之前采集的图像,从而区分出属于同一目标对象的图像。所述卷积神经网络算法可以是LeNet-5网络、mobilenet网络等。
重建模块804,用于根据所述属于同一目标对象的图像对所述目标对象进行三维重建。
具体地,基于多个移动终端4从不同角度采集到的所述属于同一目标对象的图像,所述重建模块804可以采用三维重建技术对所述目标对象进行三维重建。所述三维重建技术的核心在于持续将不同角度的图像的三维信息进行处理,通过畸变矫正、图像配准等技术进行叠加整合。
通过三维重建,将在云端建立一个与真实世界相同的三维世界,其应用场景可以通过现有的虚拟现实技术让用户感知,同时,加入通信交互,实现同现实世界趋同的网络虚拟现实体验,例如在家中进行网络3D商城的购买体验。
实施例六
如图12所示,本发明第六实施例提出一种三维重建系统28。在本实施例中,所述重建模块804具体包括:预处理子模块806、提取子模块808、配准子模块810、重建子模块812。
预处理子模块806,用于对所述属于同一目标对象的图像进行预处理。
具体地,当从各个移动终端4采集的图像中获取到属于同一目标对象的图像后,由于所述图像一般会出现畸变等状况,因此需要先对所述图像进行畸变矫正等预处理。所述畸变是指图像在拍摄过程中,因为光学原因导致的边角变形的情况(参阅图7左侧所示)。常用的畸变矫正算法包括牛顿法、雅克比矩阵求法等。通过所述畸变矫正算法,可以使发现畸变的图像恢复正常状态(参阅图7右侧所示)。
提取子模块808,用于从所述属于同一目标对象的图像中提取三维信息。
具体地,所述移动终端4记录了所采集的图像的三维信息并发送至所述云端服务器2,所述提取子模块808可以从所述图像中提取出所述三维信息,包括二维信息、深度信息、角度信息等。
配准子模块810,用于对所述属于同一目标对象的图像进行配准。
具体地,图像配准是指对从不同传感器、不同时相、不同角度所获得的两幅或多幅图像进行最佳匹配的处理过程,需要将各分量图像采用一种几何变换归化到统一的坐标系统中。在配准过程中,通常取其中的一幅图像作为配准的标准,称为参考图像,另一幅图像作为与所述参考图像进行配准的图像,称为输入图像。一般情况下,所述图像配准的基本流程包括:图像特征提取、特征匹配、空间变换模型类型的确定、模型参数的估计、图像的插值与变换、得到配准结果(参阅图8所示)。
重建子模块812,用于根据所述三维信息和配准后的图像对所述目标对象进行三维重建。
具体地,结合所述三维信息和配准后的图像,所述重建子模块812可以对所述目标对象在云端进行三维重建。例如,采用OpenGL(Open Graphics Library,开放图形库)框架即可进行三维重建。
实施例七
如图13所示,本发明第七实施例提出一种图像处理系统28。在本实施例中,所述图像处理系统28除了包括第五实施例中的所述接收模块800、获取模块802、重建模块804之外,还包括侦测模块814、发送模块816。
所述获取模块802,还用于获取欲重建的目标对象的位置信息。
具体地,当所述云端服务器2需要对某个物体进行三维重建时,将该物体设置为目标对象,所述获取模块802获取该目标对象的位置信息。在本实施例中,若所述目标对象有定位装置,则可以向所述云端服务器2发送自身的位置信息。若所述目标对象没有定位装置,则所述获取模块802可以通过位置探测装置探测所述目标对象的位置信息,或者通过所述目标对象附近的定位装置发送的位置信息估算所述目标对象的位置信息,又或者直接接收对已知位置的目标对象的位置信息的输入。
所述侦测模块814,用于侦测所述目标对象预设范围内的移动终端4。
具体地,当获取到所述目标对象的位置信息后,所述侦测模块814通过侦测各个移动终端4的定位信息,判断有哪些移动终端4在所述目标对象附近,即处于所述目标对象的预设范围内。
所述发送模块816,用于向侦测到的移动终端4发送图像采集指令。
具体地,当侦测出所述目标对象预设范围内的(多个)移动终端4后,所述发送模块816向侦测到的所述移动终端4发送图像采集指令。所述图像采集指令中可以包括但不限于目标对象、目标对象的位置信息、拍摄角度等图像采集要求。所述发送模块816可以向侦测到的所述目标对象预设范围内的所有移动终端4均发送所述图像采集指令,也可以从中选择部分位于所述目标对象附近不同角度的移动终端4,向所选择出的部分移动终端4发送所述图像采集指令。
实施例八
本发明还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有三维重建程序,所述三维重建程序可被至少一个处理器执行,以使所述至少一个处理器执行如上述的三维重建方法的步骤。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。
Claims (10)
1.一种三维重建方法,应用于云端服务器,其特征在于,该方法包括步骤:
接收多个移动终端采集的图像;
从所接收到的图像中获取属于同一目标对象的图像;及
根据所述属于同一目标对象的图像对所述目标对象进行三维重建。
2.根据权利要求1所述的三维重建方法,其特征在于,根据所述属于同一目标对象的图像对所述目标对象进行三维重建的步骤具体包括:
对所述属于同一目标对象的图像进行预处理;
从所述属于同一目标对象的图像中提取三维信息;
对所述属于同一目标对象的图像进行配准;
根据所述三维信息和配准后的图像对所述目标对象进行三维重建。
3.根据权利要求1所述的三维重建方法,其特征在于,该方法在所述接收多个移动终端采集的图像的步骤之前还包括步骤:
获取欲重建的目标对象的位置信息;
侦测所述目标对象预设范围内的移动终端;
向侦测到的移动终端发送图像采集指令。
4.根据权利要求1-3任一项所述的三维重建方法,其特征在于,在所述接收多个移动终端采集的图像的步骤中,所述云端服务器接收所述多个移动终端从不同的角度对所述目标对象进行分时图像采集得到的图像,以及记录的所述图像的三维信息。
5.根据权利要求4所述的三维重建方法,其特征在于,所述三维信息包括二维信息、深度信息、角度信息。
6.根据权利要求1-3任一项所述的三维重建方法,其特征在于,在从所接收到的图像中获取属于同一目标对象的图像的步骤中,通过卷积神经网络算法对所接收到的图像进行分类,识别出与某个图像相关的之前采集的图像,从而区分出所述属于同一目标对象的图像。
7.根据权利要求2所述的三维重建方法,其特征在于,所述预处理为畸变矫正。
8.根据权利要求2所述的三维重建方法,其特征在于,所述图像配准包括:图像特征提取、特征匹配、空间变换模型类型的确定、模型参数的估计、图像的插值与变换、得到配准结果。
9.一种云端服务器,其特征在于,所述云端服务器包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的三维重建程序,所述三维重建程序被所述处理器执行时实现如权利要求1至8中任一项所述的三维重建方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有三维重建程序,所述三维重建程序被处理器执行时实现如权利要求1至8中任一项所述的三维重建方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711470500.1A CN108182726A (zh) | 2017-12-29 | 2017-12-29 | 三维重建方法、云端服务器及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711470500.1A CN108182726A (zh) | 2017-12-29 | 2017-12-29 | 三维重建方法、云端服务器及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108182726A true CN108182726A (zh) | 2018-06-19 |
Family
ID=62548833
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711470500.1A Pending CN108182726A (zh) | 2017-12-29 | 2017-12-29 | 三维重建方法、云端服务器及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108182726A (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109147914A (zh) * | 2018-10-16 | 2019-01-04 | 上海联影医疗科技有限公司 | 一种图像重建系统 |
CN109272576A (zh) * | 2018-09-30 | 2019-01-25 | Oppo广东移动通信有限公司 | 一种数据处理方法、mec服务器、终端设备及装置 |
CN109413409A (zh) * | 2018-09-30 | 2019-03-01 | Oppo广东移动通信有限公司 | 一种数据处理方法、mec服务器、终端设备 |
CN110675464A (zh) * | 2019-09-20 | 2020-01-10 | 和宇健康科技股份有限公司 | 一种医疗影像的处理方法、装置、服务器及存储介质 |
WO2020029012A1 (zh) * | 2018-08-06 | 2020-02-13 | 西门子股份公司 | 一种三维重建方法和装置 |
CN114388060A (zh) * | 2022-01-13 | 2022-04-22 | 西湖大学 | 基于圆形控制器的蛋白球形截面生成方法 |
CN114697516A (zh) * | 2020-12-25 | 2022-07-01 | 花瓣云科技有限公司 | 三维模型重建方法、设备和存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104050177A (zh) * | 2013-03-13 | 2014-09-17 | 腾讯科技(深圳)有限公司 | 街景生成方法及服务器 |
CN104240289A (zh) * | 2014-07-16 | 2014-12-24 | 崔岩 | 一种基于单个相机的三维数字化重建方法及系统 |
CN104599314A (zh) * | 2014-06-12 | 2015-05-06 | 深圳奥比中光科技有限公司 | 三维模型重建方法与系统 |
CN106023302A (zh) * | 2016-05-06 | 2016-10-12 | 刘进 | 一种移动通信终端及其实现三维重建的方法及服务器 |
CN107087150A (zh) * | 2017-04-26 | 2017-08-22 | 成都通甲优博科技有限责任公司 | 一种基于双目立体和光度立体的三维摄像方法、系统及装置 |
CN107507274A (zh) * | 2017-08-30 | 2017-12-22 | 北京图航科技有限公司 | 一种基于云计算的公安案件现场三维实景快速还原方法 |
-
2017
- 2017-12-29 CN CN201711470500.1A patent/CN108182726A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104050177A (zh) * | 2013-03-13 | 2014-09-17 | 腾讯科技(深圳)有限公司 | 街景生成方法及服务器 |
CN104599314A (zh) * | 2014-06-12 | 2015-05-06 | 深圳奥比中光科技有限公司 | 三维模型重建方法与系统 |
CN104240289A (zh) * | 2014-07-16 | 2014-12-24 | 崔岩 | 一种基于单个相机的三维数字化重建方法及系统 |
CN106023302A (zh) * | 2016-05-06 | 2016-10-12 | 刘进 | 一种移动通信终端及其实现三维重建的方法及服务器 |
CN107087150A (zh) * | 2017-04-26 | 2017-08-22 | 成都通甲优博科技有限责任公司 | 一种基于双目立体和光度立体的三维摄像方法、系统及装置 |
CN107507274A (zh) * | 2017-08-30 | 2017-12-22 | 北京图航科技有限公司 | 一种基于云计算的公安案件现场三维实景快速还原方法 |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020029012A1 (zh) * | 2018-08-06 | 2020-02-13 | 西门子股份公司 | 一种三维重建方法和装置 |
CN109272576A (zh) * | 2018-09-30 | 2019-01-25 | Oppo广东移动通信有限公司 | 一种数据处理方法、mec服务器、终端设备及装置 |
CN109413409A (zh) * | 2018-09-30 | 2019-03-01 | Oppo广东移动通信有限公司 | 一种数据处理方法、mec服务器、终端设备 |
CN109272576B (zh) * | 2018-09-30 | 2023-03-24 | Oppo广东移动通信有限公司 | 一种数据处理方法、mec服务器、终端设备及装置 |
CN109147914A (zh) * | 2018-10-16 | 2019-01-04 | 上海联影医疗科技有限公司 | 一种图像重建系统 |
CN109147914B (zh) * | 2018-10-16 | 2023-04-28 | 上海联影医疗科技股份有限公司 | 一种图像重建系统 |
CN110675464A (zh) * | 2019-09-20 | 2020-01-10 | 和宇健康科技股份有限公司 | 一种医疗影像的处理方法、装置、服务器及存储介质 |
CN114697516A (zh) * | 2020-12-25 | 2022-07-01 | 花瓣云科技有限公司 | 三维模型重建方法、设备和存储介质 |
CN114697516B (zh) * | 2020-12-25 | 2023-11-10 | 花瓣云科技有限公司 | 三维模型重建方法、设备和存储介质 |
CN114388060A (zh) * | 2022-01-13 | 2022-04-22 | 西湖大学 | 基于圆形控制器的蛋白球形截面生成方法 |
CN114388060B (zh) * | 2022-01-13 | 2023-06-20 | 西湖大学 | 基于圆形控制器的蛋白球形截面生成方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108182726A (zh) | 三维重建方法、云端服务器及计算机可读存储介质 | |
CN108322644A (zh) | 一种图像处理方法、移动终端以及计算机可读存储介质 | |
CN107343064A (zh) | 一种两自由度旋转摄像头的移动终端 | |
CN107682627A (zh) | 一种拍摄参数设置方法、移动终端及计算机可读存储介质 | |
CN107680060A (zh) | 一种图像畸变校正方法、终端及计算机可读存储介质 | |
CN109711226A (zh) | 二维码识别方法、装置、移动终端及可读存储介质 | |
CN107959795A (zh) | 一种信息采集方法、设备和计算机可读存储介质 | |
CN107295269A (zh) | 一种测光方法及终端、计算机存储介质 | |
CN108170817A (zh) | 照片主体的演变视频获取方法、装置及可读存储介质 | |
CN108053371A (zh) | 一种图像处理方法、终端及计算机可读存储介质 | |
CN107886321A (zh) | 一种支付方法及移动终端 | |
CN107818459A (zh) | 基于增强现实的红包发送方法、终端及存储介质 | |
CN107707821A (zh) | 畸变参数的建模方法及装置、校正方法、终端、存储介质 | |
CN107239205A (zh) | 一种拍照方法、移动终端及存储介质 | |
CN108171743A (zh) | 拍摄图像的方法、设备及计算机可存储介质 | |
CN107404618A (zh) | 一种拍摄方法及终端 | |
CN109300099A (zh) | 一种图像处理方法、移动终端及计算机可读存储介质 | |
CN109672822A (zh) | 一种移动终端的视频处理方法、移动终端及存储介质 | |
CN107689029A (zh) | 图像处理方法、移动终端和计算机可读存储介质 | |
CN107450796A (zh) | 一种图片处理方法、移动终端和计算机可读存储介质 | |
CN109781091A (zh) | 一种移动终端的地图显示方法、移动终端及存储介质 | |
CN107395971A (zh) | 一种图像采集方法、设备和计算机可读存储介质 | |
CN107657638A (zh) | 一种图像处理方法、装置及计算机可读存储介质 | |
CN107809580A (zh) | 一种拍摄处理方法、终端及计算机可读存储介质 | |
CN108038817A (zh) | 一种图像背景虚化方法、终端及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180619 |
|
RJ01 | Rejection of invention patent application after publication |