CN117522677A - 利用捕获的局部空间位置的球体图像内的情境可视化 - Google Patents
利用捕获的局部空间位置的球体图像内的情境可视化 Download PDFInfo
- Publication number
- CN117522677A CN117522677A CN202310961843.7A CN202310961843A CN117522677A CN 117522677 A CN117522677 A CN 117522677A CN 202310961843 A CN202310961843 A CN 202310961843A CN 117522677 A CN117522677 A CN 117522677A
- Authority
- CN
- China
- Prior art keywords
- coordinates
- sphere
- location
- image
- capture location
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012800 visualization Methods 0.000 title abstract description 42
- 238000000034 method Methods 0.000 claims abstract description 55
- 239000002131 composite material Substances 0.000 claims description 14
- 238000004519 manufacturing process Methods 0.000 description 37
- 238000012545 processing Methods 0.000 description 31
- 238000012423 maintenance Methods 0.000 description 27
- 230000008569 process Effects 0.000 description 23
- 238000010586 diagram Methods 0.000 description 21
- 238000004891 communication Methods 0.000 description 17
- 238000004590 computer program Methods 0.000 description 11
- 238000007726 management method Methods 0.000 description 9
- 230000002085 persistent effect Effects 0.000 description 9
- 239000000835 fiber Substances 0.000 description 5
- 239000002828 fuel tank Substances 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000001902 propagating effect Effects 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000007670 refining Methods 0.000 description 3
- 238000009419 refurbishment Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000009727 automated fiber placement Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005553 drilling Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 239000003381 stabilizer Substances 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/0008—Industrial image inspection checking presence/absence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/32—Indexing scheme for image data processing or generation, in general involving image mosaicing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Graphics (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请公开了利用捕获的局部空间位置的球体图像内的情境可视化。提供球体空间内的可视化。方法包括:从共同的三点坐标捕获位置捕获多个图像,并基于捕获位置创建投影坐标的球体。将对应于这些图像的参考位置的三点坐标转换成该球体上的球坐标。参考位置的球坐标被转换成旅程场景坐标。参考位置的旅程场景坐标然后被转换成等矩形笛卡尔坐标。在用户界面中显示从捕获位置的视角看根据参考位置的图像。
Description
技术领域
本公开总体上涉及可视化,并且更具体地涉及从图像捕获的共同点的视角可视化球体空间内的信息的方法。
背景技术
物理产品共有数据的可视化是数字企业支持的关键要求。球体成像是专业和工业用例记录真实世界位置并使其可视化的流行介质。
因此,期望具有考虑至少一些上述问题以及其他可能的问题的方法和设备。
发明内容
说明性实施例提供了一种用于在球体空间内可视化的计算机实现的方法。该方法包括:从共同的三点坐标捕获位置捕获多个图像,并基于捕获位置创建投影坐标的球体。将对应于这些图像的参考位置的三点坐标转换成该球体上的球坐标。参考位置的球坐标被转换成旅程场景坐标。参考位置的旅程场景坐标然后被转换成等矩形笛卡尔坐标。在用户界面中显示从捕获位置的角度来看根据参考位置的图像。
另一说明性实施例提供一种用于在球体空间内可视化的系统。该系统包括被配置为存储程序指令的存储设备以及一个或多个处理器,该一个或多个处理器可操作地连接到存储设备并且被配置为执行程序指令以使系统执行以下:从共同的三点坐标捕获位置捕获多个图像;基于捕获位置创建投影坐标的球体;将对应于图像的参考位置的三点坐标转换成球体上的球坐标;将参考位置的球坐标转换成旅程场景坐标;将参考位置的旅程场景坐标转换成等矩形笛卡尔坐标;以及在用户界面中显示从捕获位置的视角看根据参考位置的图像。
另一说明性实施例提供一种用于在球体空间内可视化的计算机程序产品。计算机程序产品包括计算机可读存储介质,计算机可读存储介质具有在其上体现的程序指令以执行以下步骤:从共同的三点坐标捕获位置捕获多个图像;基于捕获位置创建投影坐标的球体;将与图像对应的参考位置的三点坐标转换成球体上的球坐标;将参考位置的球坐标转换成旅程场景坐标;将参考位置的旅程场景坐标转换成等矩形笛卡尔坐标;以及在用户界面中显示从捕获位置的视角看根据参考位置的图像。
特征和功能可以在本公开的各种实施例中独立地实现,或者可以在其他实施例中组合,其中进一步的细节可以参考以下描述和附图看出。
附图说明
在所附权利要求中阐述了被认为是说明性实施例的特征的新颖特征。然而,当结合附图阅读时,通过参考本公开的说明性实施例的以下详细描述,将最好地理解说明性实施例以及优选使用模式、其进一步的目的和特征,其中:
图1是可以实现说明性实施例的数据处理系统的网络的图形表示;
图2是根据说明性实施例的情境可视化系统的示意性框图;
图3描绘了根据说明性实施例的坐标的所投影的球体的图示;
图4描绘了示出根据说明性实施例的将真实三点坐标转换为等矩形坐标以用于显示的的过程的图示;
图5描绘了根据说明性实施例的应用于飞机机舱的图像的情境可视化的示例;
图6描绘了根据说明性实施例的应用于飞机起落架舱的图像的情境可视化的示例;
图7描绘了根据说明性实施例的应用于工厂楼层700的图像的情境可视化的示例;
图8描绘了根据说明性实施例的用于在球体空间内可视化的过程的流程图;
图9是根据说明性实施例的数据处理系统的框图的图示;
图10是根据说明性实施例的飞机制造和保养方法的示图;
图11是其中可实施说明性实施例的飞机的框图的图示;以及
图12是根据说明性实施例描绘的产品管理系统的框图的图示。
具体实施方式
说明性实施例认识并考虑到如本文所述的一个或多个不同的考虑因素。例如,说明性实施例认识并考虑到物理产品共有的数据的可视化是支持数字企业的关键要求。
说明性实施例认识并考虑到可视化的现有解决方案需要手动放置图标以描绘单独的数据集。结果,能够被添加的数据量受到更新和添加信息的用户的数量的限制。说明性实施例认识并考虑到,这种方法需要捕获信息并且然后手动地可视化球体图像内的每个数据集的重复精力。
说明性实施例利用对于位置和参考数据源共有的局部三点坐标提供情境可视化。360度球体图像的原点用作导出空间中的任何位置的可视化坐标的支点。相机本身成为空间和球体图像的原点。说明性实施例利用空间和捕获(相机)位置的原点共有的初始已知共同向量来自动地在记录空间内的它们的记录位置显示数据集。
说明性实施例解决了相对于所记录的物理空间可视化质量文档的技术问题,其支持清楚的、可操作的数据以支持标准制造要求。情境可视化扩展了用于远程检查、训练、根本原因校正动作和数据分析的使用情况。大量或离散的数据集可以即时用所记录的球体图像相对于其所记录的位置可视化。例如,部件位置、工程图、汇编指令、非一致性和维护数据可以容易地可视化而无需手动绘图或附加数据操纵,诸如手动编辑、添加或更新。
如本文所使用的,当与一系列项目一起使用时,短语“至少一个”意味着可以使用所列出的项目中的一个或多个的不同组合,并且可以需要列表中的每个项目中的仅一个。换言之,“至少一个”意味着可以使用列表中的项目和多个项目的任何组合,但是不需要列表中的所有项目。项目可以是特定对象、事物或类别。
例如,但不限于,“项目A、项目B或项目C中的至少一个”可包括项目A、项目A和项目B或项目B。该示例还可以包括项目A、项目B和项目C或者项目B和项目C。当然,可以存在这些项目的任何组合。在一些说明性示例中,“至少一个”可以是例如但不限于两个项目A;一个项目B;以及十个项目C;四个项目B和七个项目C;或其他合适的组合。
如本文所使用的,当参考项目使用“多个”时,是指一个或多个项目。例如,“多个不同类型的网络”是一个或多个不同类型的网络。在说明性示例中,如参考项目使用的“一组”表示一个或多个项目。例如,一组度量是一个或多个度量。
参考图1,描述了可以实现示例性实施方式的数据处理系统的网络的图形表示。网络数据处理系统100是其中可以实施说明性实施例的计算机网络。网络数据处理系统100包含网络102,它是用于在网络数据处理系统100内连接在一起的不同设备和计算机之间提供通信链路的介质。网络102可包括连接,如有线、无线通信链路或光纤电缆。
在所描绘的示例中,服务器计算机104和服务器计算机106连同存储单元108连接到网络102。此外,客户端设备110连接至网络102。在所描绘的示例中,服务器计算机104向客户端设备110提供诸如启动文件、操作系统映像和应用之类的信息。客户端设备110可以是例如计算机、工作站或网络计算机。如所描绘的,客户端设备110包括客户端计算机112和114。客户端设备110还可包括其他类型的客户端设备,例如相机116、移动电话118、平板计算机120和智能眼镜122。
在这个说明性的示例中,服务器计算机104、服务器计算机106、存储单元108和客户端设备110是连接到网络102的网络设备,其中网络102是这些网络设备的通信介质。客户端设备110中的一些或全部可以形成物联网(IoT),在物联网中,这些物理设备可以连接至网络102并且通过网络102彼此交换信息。
在此示例中,客户端设备110是服务器计算机104的客户端。网络数据处理系统100可以包括附加的服务器计算机、客户端计算机和未示出的其他设备。客户端设备110利用有线连接、光纤连接或无线连接中的至少一个连接到网络102。
位于网络数据处理系统100中的程序代码可以存储在计算机可记录存储介质上并且下载到数据处理系统或其他设备中以供使用。例如,程序代码可以存储在服务器计算机104上的计算机可记录存储介质上,并且通过网络102下载到客户端设备110上以供在客户端设备110上使用。
在所描绘的示例中,网络数据处理系统100是互联网,其中网络102表示使用传输控制协议/互联网协议(TCP/IP)协议组来彼此通信的网络和网关的全球集合。互联网的核心是主节点或主计算机之间的高速数据通信线路的主干,主节点或主计算机由路由数据和消息的数千个商业、政府、教育和其他计算机系统组成。当然,网络数据处理系统100也可以使用许多不同类型的网络来实现。例如,网络102可以包括互联网、内联网、局域网(LAN)、城域网(MAN)或广域网(WAN)中的至少一个。图1旨在作为示例,而不是作为对于不同说明性实施例的架构限制。
现在参考图2,描绘了根据说明性实施例的情境可视化系统的框图的图示。在这个说明性示例中,情境可视化系统200包括可以在硬件中实现的组件,硬件诸如图1中的网络数据处理系统100中所示的硬件。
情境可视化系统从位于物理空间240中的相机242接收多个图像204。物理空间可以是例如飞机或其他交通工具的内部、这种交通工具的隔室、诸如工厂的建筑物的内部、或用户期望为其他用户创建参考可视化的任何环境。相机242可以是能够围绕物理空间240内的相机的捕获位置244成像360°的可旋转相机。
情境可视化系统200将图像204拼接在一起,以创建围绕相机242的捕获位置244的物理空间240的环绕视图202。每个图像206可以包括物理空间240内的多个参考位置。每个参考位置210具有对应的三点坐标212(即,x、y、z)。
情境可视化系统200在捕获位置244周围创建球体214或投影坐标216。对应于捕获位置244的三点坐标218用作球体的中心214(参见图3)。
情境可视化系统200将每个参考位置210的对应的三点坐标212转换成可以从图像204中的二维图像投影到球体214的圆周上的球坐标222。
情境可视化系统200将球坐标222转换成旅程(tour,游程)场景坐标224。
用户界面226在显示系统232上显示从捕获位置244的视角的物理空间240的图像228。显示系统232是物理硬件系统,并且包括在其上可以显示用户界面226的一个或多个显示设备。用户界面226可以是图形用户界面。
显示系统232中的显示设备可包括以下中的至少一者:发光二极管(LED)显示器、液晶显示器(LCD)、有机发光二极管(OLED)显示器、计算机监视器、投影仪、平板显示器、平视显示器(HUD)、头戴式显示器(HMD)、或可输出用于信息的视觉呈现的信息的一些其他合适设备。
叠加在这个图像228上的可以是参考位置数据230,例如以部件位置、工程图、汇编指令、已知的不一致性、或机群维护数据为例。该参考位置数据230与特定三点位置相关联。情境可视化系统200通过基于捕获位置的三点坐标218(原点)在已知的共同向量220与所期望的数据显示位置之间转换球体214圆周上的球坐标222来确定在何处可视化图像228中的参考位置数据230。
情境可视化系统200可以以软件、硬件、固件或其组合实现。当使用软件时,由情境可视化系统200执行的操作可以在被配置为在诸如处理器单元的硬件上运行的程序代码实现。当使用固件时,由情境可视化系统200执行的操作可以以程序代码和数据实现,程序代码和数据存储在持久性存储器中以在处理器单元上运行。当采用硬件时,硬件可包括操作以在情境可视化系统200中执行操作的电路。
在说明性示例中,硬件可以采取选自以下各项中的至少一项的形式:电路系统、集成电路、专用集成电路(ASIC)、可编程逻辑器件、或被配置为执行多个操作的一些其他合适类型的硬件。对于可编程逻辑器件,该器件可以被配置为执行多个操作。该器件可以在稍后被重新配置或者可以被永久地配置为执行多个操作。可编程逻辑器件包括例如可编程逻辑阵列、可编程阵列逻辑、现场可编程逻辑阵列、现场可编程门阵列和其他合适的硬件设备。此外,该过程可以以与无机组件集成的有机组件实现,并且可以包括完全排除人类的有机组件组成。例如,这些过程可以被实现为有机半导体中的电路。
计算机系统250是物理硬件系统并且包括一个或多个数据处理系统。当多于一个数据处理系统存在于计算机系统250中时,那些数据处理系统使用通信介质彼此通信。通信介质可以是网络。数据处理系统可以选自计算机、服务器计算机、平板计算机或一些其他合适的数据处理系统中的至少一个。
如所描述的,计算机系统250包括能够执行实现说明性示例中的过程的程序代码254的多个处理器单元252。如本文所使用的,多个处理器单元252中的处理器单元是硬件设备,并且包括诸如集成电路上的那些硬件电路,其响应和处理操作计算机的指令和程序代码。当多个处理器单元252执行过程的程序代码254时,多个处理器单元252是可在相同计算机上或在不同计算机上的一个或多个处理器单元。换言之,该过程可以分布在计算机系统中的相同或不同计算机上的处理器单元之间。进一步,多个处理器单元252可以是相同类型或不同类型的处理器单元。例如,多个处理器单元可选自单核处理器、双核处理器、多处理器核、通用中央处理单元(CPU)、图形处理单元(GPU)、数字信号处理器(DSP)或一些其他类型的处理器单元中的至少一者。
图3描绘了根据说明性实施例的球体的投影坐标的图示。球体300可以是图2中的球体214的示例。
球体300包括基于捕获位置302的投影坐标。捕获位置302是表示相机在空间中的位置的三点位置并且与球体300内相对于空间的限定方向(向量)304相关联,该方向对于所有投影坐标而言是共同的。
利用产品或物理位置与参考数据源共同的局部三点坐标,360°球体图像的原点(中心捕获位置)302可用作支点以导出包括该空间中的三点位置的任何数据点的可视化坐标。基于中心捕获位置302和共同的向量304,情境可视化系统能够将与空间中的三点位置相关联的任何数据点306转换(308)到球体300的圆周上的坐标。这种转换允许数据集自动显示在其在记录空间内的记录位置(参见图5至图7)。
图4描绘了示出根据说明性实施例的将真实三点坐标转换为用于显示的等矩形坐标的过程的图示。该转换过程可由图2中所示的情境可视化系统200执行。
相机位置402(作为原点)和参考位置404(例如,部件或安装平面位置)从真X坐标(x,y,z)或基于模型的坐标转换到相对球坐标(r,θ,)。从球坐标,参考位置然后被转换成相对虚拟旅程场景坐标。然后将参考位置从虚拟旅程场景坐标转换为等矩形笛卡尔坐标(x,y)。然后,在从相机原点的视点的视图406中,在球体空间内显示该等矩形输出。
相机坐标(c)参考球体图像的真实世界对象在笛卡尔坐标中的3D表示来表示真实世界捕获位置(相机位置)402:x1,相机在3D空间中的x轴位置;y1,相机在3D空间中的y轴位置;以及z1,相机在3D空间中的z轴位置。
参考位置404是用于在笛卡尔坐标中可视化的兴趣点(p):x2,感兴趣点在3D空间中的x轴位置;y2,感兴趣点在3D空间中的y轴位置;以及z2,感兴趣点在3D空间中的z轴位置。
偏移(o)是从相机位置402到真实世界对象的3D表示的笛卡尔坐标原点(0,0,0):-x1,相机在3D空间中的x轴位置的反向;-y1,相机在3D空间中的y轴位置的反向;以及-z1,相机在3D空间中的z轴位置的反向。
零点(z)是感兴趣点(p)加上偏移(o),从而参考笛卡尔坐标原点创建点位置:zpx,点(p)在x轴上与相机的相对位置,但是相对于现实世界对象的3D表示的笛卡尔坐标原点;zpy,y轴上的点(p)与相机的相对位置,但是相对于真实世界对象的3D表示的笛卡尔坐标原点;以及zpz,点(p)在z轴上相对于相机的相对位置,但是相对于真实世界对象的3D表示的笛卡尔坐标原点。
在该球坐标系中,该半径(r)是该相机(c)与该感兴趣点(p)之间的距离。是极角。theta(θ)是方位角。
在虚拟旅程坐标系中,ath为水平旋转,atv为垂直旋转。
零点可以计算为:
zpx=x2+-x1
zpy=y2+-y1
zpz=z2+-z1
从笛卡尔坐标到球坐标的转换可以计算为如下:
用于将球坐标转换为虚拟旅程坐标的逻辑可为:
ath:
if(θ≥0)}
atv:
说明性实施例提供了用于将任何照片用作情境可视化的基础的可重复过程。虽然概念基于360°球体,但是相同的能力应用于任何照片或视频图像。
图5-图7描绘了示出在不同设置中应用的情境可视化的不同示例的图示。所有这些设置是图2中的物理空间240的可能示例。
图5描绘了根据说明性实施例的应用于飞机机舱500的图像的情境可视化的示例。在该图像内,数据点被显示在各个参考位置,该参考位置可以是图2中的参考位置数据230的示例。
在该特定示例中,数据点包括用于乘客服务单元502的部件号、储藏箱504的供应商成本、与乘客娱乐显示系统506相关的安装计划、以及与窗户座椅位置508相关的保养维护发现。
图6描绘了根据说明性实施例的应用于飞机起落架舱600的图像的情境可视化的示例。在这个示例中,可视化数据点包括位于图像602左侧的部件的部件号和安装计划(IP)号、叠加在图像上部中心上的工程图604、以及上个月在轮舱中发现的制造缺陷606。
这些仅是说明性示例,但是特别是在视觉复杂的空间,诸如隔间600,其可以包括数千个可见组件的情境下,使数据重要的特定位置处的数据可视化的能力具有巨大时间节约的潜力,并且在需要的位置和在需要的时间在数据的应用中具有提高的准确度。可视化还提供以否则将难以可视化的方式连接数据和表面图案的方式。
图7描绘了根据说明性实施例的应用于工厂楼层700的图像的情境可视化的示例。情境可视化的这个示例不仅提供空间情境中的可视化,而且提供过程情境中的可视化。
在本示例中,在图像中可视化的数据点包括部件短缺的自动可视化702,以及在重要位置处的机场跑道异物(FOD)发现的自动可视化704。在诸如制造或维修的过程的情境中,这样的数据点可视化不仅提供关于需要什么以及在哪里,而且提供关于该过程可能在哪里发生以及如何可能影响该过程的信息。
图8描绘了根据说明性实施例的用于在球体空间内可视化的过程的流程图。图8中的过程可以以硬件、软件或这两者实现。当以软件实现时,过程可以采取由位于一个或多个计算机系统中的一个或多个硬件设备中的一个或多个处理器单元运行的程序代码的形式。例如,该过程可以在图2中的计算机系统250中的情境可视化系统200中实现。
过程800开始于从共同的三点坐标捕获位置(即,相机位置)捕获多个图像(操作802)。图像共同地(collectively)包含围绕捕获位置的视图,其可以是围绕捕获位置的360度球体视图。然后,系统可以将图像拼接在一起成为单个合成图像(操作804)并且细化合成图像(操作806)。
系统基于捕获位置创建投影坐标的球体(操作808),并将对应于图像的参考位置的三点坐标转换成球体上的球坐标(操作810)。
然后,系统然后将参考位置的球坐标转换为旅程场景坐标(操作812)。
参考位置的旅程场景坐标被转换成等矩形笛卡尔坐标(操作814),并且在用户界面中显示从捕获位置的视角看按照参考位置的图像(操作816)。基于相对于源自捕获位置的球体空间的已知共同向量来显示图像。
过程800可以进一步包括在用户界面中可视化与所定义的空间内的参考点中的至少一个相关联的特定数据(操作818)。特定数据可包括部件位置、工程图、汇编指令、已知非一致性或机群维护数据中的至少一个。然后,过程800结束。
不同描述的实施例中的流程图和框图示出了说明性实施例中的设备和方法的一些可能实现方式的架构、功能和操作。在这方面,流程图或者框图中的每个方框可以表示模块、部分、功能或者操作或者步骤的一部分中的至少一个。例如,一个或多个框可被实现为程序代码、硬件、或程序代码和硬件的组合。当以硬件实现时,硬件可例如采取被制造或配置成执行流程图或框图中的一个或多个操作的集成电路的形式。当被实现为程序代码和硬件的组合时,该实现可以采取固件的形式。流程图或框图中的每个框可以使用执行不同操作的专用硬件系统或专用硬件与由专用硬件运行的程序代码的组合来实现。
在说明性实施例的一些替代实现方式中,框中指出的一个或多个功能可以不按照图中指出的顺序发生。例如,在一些情况下,取决于所涉及的功能,连续示出的两个框可以基本上同时执行,或者这些框有时可以以相反的顺序执行。此外,除了流程图或框图中示出的框之外,可以添加其他框。
现在转向图9,描绘了根据说明性实施例的数据处理系统的框图的图示。数据处理系统900可用于实施图1中的服务器计算机104和106和客户端设备110以及图2中的计算机系统250。在这个说明性示例中,数据处理系统900包括通信框架902,该通信框架提供处理器单元904、内存906、持久性存储器908、通信单元910、输入/输出(I/O)单元912和显示器914之间的通信。在该示例中,通信框架902采取总线系统的形式。
处理器单元904用于执行可以被加载到内存906中的软件的指令。处理器单元904可以是多个处理器、多处理器核或一些其他类型的处理器,这取决于具体实施方式。在实施例中,处理器单元904包括一个或多个常规通用中央处理单元(CPU)。在替代实施例中,处理器单元904包括一个或多个图形处理单元(GPU)。
内存906和持久性存储器908是存储设备916的示例。存储设备是能够存储信息的任何硬件,信息诸如,例如但不限于,数据、函数形式的程序代码或者在临时基础上、在永久基础上或者在临时基础和永久基础上的其他合适的信息中的至少一种。在这些说明性示例中,存储设备916还可以被称为计算机可读存储设备。在这些示例中,内存906可以是例如随机存取存储器或任何其他合适的易失性或非易失性存储设备。持久性存储器908可以采取各种形式,这取决于特定的实施方式。
例如,持久性存储器908可以包含一个或多个部件或设备。例如,持久性存储器908可以是硬盘驱动器、闪存、可重写光盘、可重写磁带或上述的一些组合。持久性存储器908所使用的介质也可以是可移除的。例如,可移动硬盘驱动器可以用于持久性存储器908。在这些说明性示例中,通信单元910提供与其他数据处理系统或设备的通信。在这些示例性示例中,通信单元910是网络接口卡。
输入/输出单元912允许与可以连接至数据处理系统900的其他设备进行数据的输入和输出。例如,输入/输出单元912可以通过键盘、鼠标或一些其他合适的输入设备中的至少一种提供用于用户输入的连接。此外,输入/输出单元912可以向打印机发送输出。显示器914提供向用户显示信息的机制。
用于操作系统、应用程序或程序中的至少一者的指令可以位于通过通信框架902与处理器单元904通信的存储设备916中。处理器单元904可以使用计算机实施的指令来执行不同实施例的过程,这些指令可以位于存储器中,如内存906。
这些指令被称为程序代码、计算机可用程序代码或计算机可读程序代码,其可以由处理器单元904中的处理器读取和执行。不同实施例中的程序代码可以体现在不同的物理或计算机可读存储介质上,如内存906或持久性存储器908。
程序代码918以功能形式位于选择性可移除的计算机可读介质920上,并且可以被加载到或转移到数据处理系统900上以便由处理器单元904执行。在这些说明性示例中,程序代码918和计算机可读介质920形成计算机程序产品922。在一个示例中,计算机可读介质920可以是计算机可读存储介质924或计算机可读信号介质926。
在这些说明性示例中,计算机可读存储介质924是用于存储程序代码918的物理或有形存储设备,而不是传播或传输程序代码918的介质。如本文所使用的计算机可读存储介质924不应被解释为暂时信号本身,例如无线电波或其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,穿过光纤电缆的光脉冲)或通过电线发射的电信号,如本文中所使用,不应被解释为暂时信号本身,例如无线电波或其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,穿过光纤电缆的光脉冲)或通过电线发射的电信号。
可替代地,可以使用计算机可读信号介质926将程序代码918传输到数据处理系统900。计算机可读信号介质926可以是例如包含程序代码918的传播数据信号。例如,计算机可读信号介质926可以是电磁信号、光信号或任何其他合适类型的信号中的至少一个。这些信号可通过至少一个通信链路,诸如无线通信链路、光纤电缆、同轴电缆、电线或任何其他合适类型的通信链路传输。
针对数据处理系统900所示出的不同组件并不意味着对可以实现不同实施例的方式提供架构限制。可以在包括除了或代替为数据处理系统900示出的那些组件的组件的数据处理系统中实施不同的说明性实施例。图9中所示的其他组件可以不同于所示的说明性示例。不同的实施例可以使用能够运行程序代码918的任何硬件设备或系统来实现。
可以在如图10所示的飞机制造和保养方法1000和如图11所示的飞机1100的背景下描述本公开的说明性实施例。首先转向图10,根据示例性实施例描述了飞机制造和保养方法的示意图。在预生产期间,飞机制造和保养方法1000可包括图11中的飞机1100的规格和设计1002以及材料采购1004。
在生产期间,进行图11中的飞机1100的部件和子组件制造1006和系统集成1008。此后,图11中的飞机1100可以经历认证和交付1010以便投入使用1012。在由客户投入使用1012时,图11中的飞机1100被安排进行日常维护和保养1014,这可以包括修改、重新配置、翻新以及其他维护或保养。
飞机制造和保养方法1000的每个过程可由系统集成商、第三方、运营商或它们的一些组合来执行或进行。在这些示例中,运营商可以是客户。为了本说明书的目的,系统集成商可以包括但不限于任何数量的飞机制造商和主系统分包商;第三方可以包括但不限于任何数量的销售商、分包商和供应商;以及操作者可以是航空公司、租赁公司、军事实体、服务组织等。
现在参考图11,描述了可以实施说明性实施例的飞机的图示。在这个示例中,飞机1100通过图10中的飞机制造和保养方法1000生产,并且可以包括具有多个系统1104的机身1102和内部1106。系统1104的示例包括推进系统1108、电气系统1110、液压系统1112和环境系统1114中的一个或多个。可以包括任何数量的其他系统。尽管示出了航空航天示例,但是不同的说明性实施例可应用于其他行业,诸如汽车行业。
在图10中的飞机制造和保养方法1000的至少一个阶段期间可以采用本文中体现的设备和方法。
在一个说明性示例中,在图10中的部件和子组件制造1006中生产的部件或子组件可以类似于在图10中的飞机1100使用1012时生产的部件或子组件的方式制作或制造。作为又一示例,一个或多个设备实施例、方法实施例或其组合可以在生产阶段期间使用,诸如图10中的部件和子组件制造1006和系统集成1008。在飞机1100投入使用1012时,在图10中的维护和保养1014期间,或两者,可以利用一个或多个装置实施例、方法实施例或其组合。多个不同的说明性实施例的使用可以充分加快飞机1100的组装,降低飞机1100的成本,或者同时加快飞机1100的组装和降低飞机1100的成本。
现在转向图12,描绘了根据说明性实施例的产品管理系统的框图的图示。产品管理系统1200是物理硬件系统。在这个说明性示例中,产品管理系统1200包括制造系统1202或维护系统1204中的至少一个。
制造系统1202被配置成用于制造产品,如图11中的飞机1100。如所描述的,制造系统1202包括制造设备1206。制造设备1206包括制作设备1208或组装设备1210中的至少一者。
制作设备1208是用于制作用于形成图11中的飞机1100的部件的部件的设备。例如,制作设备1208可以包括机器和工具。这些机器和工具可以是钻孔机、液压机、熔炉、高压釜、模具、复合铺带机、自动纤维铺放(AFP)机、真空系统、机器人拾取和放置系统、平板切割机、激光切割器、计算机数控(CNC)切割机、车床或其他合适的设备类型中的至少一个。制作设备1208可以用于制作金属部件、复合部件、半导体、电路、紧固件、肋、蒙皮面板、翼梁、天线或其他适合类型的部件中的至少一者。
组装设备1210是用于组装部件以形成图11中的飞机1100的设备。具体地,组装设备1210用于组装组件和部件以形成图11中的飞机1100。组装设备1210还可包括机器和工具。这些机器和工具可以是机械臂、履带、快速安装系统、基于轨道的钻井系统或机器人中的至少一个。组装设备1210可以用于组装诸如座椅、水平稳定器、机翼、发动机、发动机壳体、起落架系统的部件以及图11中的飞机1100的其他部件。
在这个说明性示例中,维护系统1204包括维护设备1212。维护设备1212可以包括对图11中的飞机1100进行维护所需的任何设备。维护设备1212可以包括用于对图11中的飞机1100上的部件执行不同操作的工具。这些操作可以包括拆卸部件、翻新部件、检查部件、返修部件、制造替换部件或用于对图11中的飞机1100执行维护的其他操作中的至少一者。这些操作可以用于日常维护、检查、升级、翻新或其他类型的维护操作。
在说明性示例中,维护设备1212可以包括超声波检查装置、x射线成像系统、视觉系统、钻头、履带、以及其他合适的装置。在一些情况下,维护设备1212可以包括制作设备1208、组装设备1210或两者以生产和组装维护所需的部件。
产品管理系统1200还包括控制系统1214。控制系统1214是硬件系统并且还可以包括软件或其他类型的部件。控制系统1214被配置成用于控制制造系统1202或维护系统1204中的至少一者的操作。具体地,控制系统1214可以控制制作设备1208、组装设备1210或维护设备1212中的至少一个的操作。
可以使用可以包括计算机、电路、网络和其他类型的设备的硬件来实现控制系统1214中的硬件。控制可以采用对制造设备1206的直接控制的形式。例如,机器人、计算机控制的机器和其他设备可由控制系统1214控制。在其他说明性示例中,控制系统1214可管理由操作人员1216在制造飞机1100或对飞机执行维护时执行的操作。例如,控制系统1214可以分配任务、提供指令、显示模型、或执行其他操作以管理由操作人员1216执行的操作。在这些说明性示例中,控制系统1214管理图11中的飞机1100的制造或维护中的至少一个,以采用飞机1100的燃料箱内的燃料箱保护系统。在制造燃料箱期间,燃料保护系统可以在燃料箱中实施,用于在飞机1100的维护期间添加燃料箱。
在不同的说明性示例中,操作人员1216可以操作制造设备1206、维护设备1212或控制系统1214中的至少一个或与制造设备、维护设备或控制系统中的至少一个交互。这种交互可以发生以制造图11中的飞机1100。
当然,产品管理系统1200可以被配置成用于管理不同于图11中的飞机1100的其他产品。尽管已经关于航空航天工业中的制造描述了产品管理系统1200,但是产品管理系统1200可被配置为管理其他行业的产品。例如,产品管理系统1200可以被配置成用于为汽车行业以及任何其他合适的行业制造产品。
此外,本公开包括根据下列项的示例:
项1:一种用于在球体空间内可视化的计算机实现的方法(800),方法包括:使用多个处理器(252)来执行以下操作:从共同的三点坐标捕获位置(244)捕获(802)多个图像(204);基于捕获位置创建(808)投影坐标(216)的球体(214);将对应于图像的参考位置(208)的三点坐标转换(810)为球体上的球坐标(222);将参考位置的球坐标转换(812)成旅程场景坐标(224);将参考位置的旅程场景坐标转换(814)成等矩形笛卡尔坐标;以及在用户界面(226)中显示(816)从捕获位置的视角看根据参考位置的图像(228)。
项2:根据项1的方法,还包括:将图像拼接(804)在一起成为合成图像;以及细化(806)合成图像。
项3:根据项1至2中任一项的方法,其中图像共同地包含围绕捕获位置的视图。
项4:根据项1至3中任一项的方法,其中图像共同地包含围绕捕获位置的360度球体视图。
项5:根据项1至4中任一项的方法,其中基于相对于源自捕获位置的球体空间的已知共同向量(220)来显示图像。
项6:根据项1至5中任一项的方法,进一步包括在该用户界面中可视化(818)与该球体空间内的这些参考点中的至少一个参考点相关联的特定数据(230)。
项7:根据项6的方法,其中,特定数据包括以下中的至少一个:部件位置;工程图;汇编指令;已知的非一致性;或机群维护数据。
项8:一种用于在球体空间内可视化的系统,系统包括:存储设备,其被配置来存储程序指令;以及一个或多个处理器,一个或多个处理器可操作地连接到存储设备并且被配置为执行程序指令以使系统:从共同的三点坐标捕获位置(244)捕获(802)多个图像(204);基于捕获位置创建(808)投影坐标(216)的球体(214);将对应于图像的参考位置(208)的三点坐标转换(810)为球体上的球坐标(222);将参考位置的球坐标转换(812)为旅程场景坐标(224);将参考位置的旅程场景坐标转换(814)成等矩形笛卡尔坐标;以及在用户界面(226)中显示(816)从捕获位置的角度看根据参考位置的图像(228)。
项9:根据项8的系统,其中处理器还执行指令以:
将图像拼接(804)在一起成为合成图像;以及细化(806)合成图像。
项10:根据项8至10中任一项的系统,其中图像共同地包含围绕捕获位置的视图。
项11:根据项8至11中任一项的系统,其中图像共同地包含围绕捕获位置的360度球体视图。
项12:根据项8至11中任一项的系统,其中基于相对于源自捕获位置的球体空间的已知共同向量(220)来显示图像。
项13:根据项8至12中任一项的系统,其中处理器还执行指令以在用户界面中使与球体空间内的参考点中的至少一个相关联的特定数据(230)可视化(818)。
项14:一种用于在球体空间内可视化的计算机程序产品,计算机程序产品包括:计算机可读存储介质,计算机可读存储介质具有在其上体现以执行以下步骤的程序指令:从共同的三点坐标捕获位置(244)捕获(802)多个图像(204);基于捕获位置创建(808)投影坐标(216)的球体(214);将对应于图像的参考位置(208)的三点坐标转换(810)为球体上的球坐标(222);将参考位置的球坐标转换(812)成旅程场景坐标(224);将参考位置的旅程场景坐标转换(814)成等矩形笛卡尔坐标;以及在用户界面(226)中显示(816)从捕获位置的视角根据参考位置的图像(228)。
项15:根据项14的计算机程序产品,进一步包括用于以下的指令:将图像拼接(804)在一起成为合成图像;以及细化(806)合成图像。
项16:根据项14至15中任一项的计算机程序产品,其中,图像共同地包含围绕捕获位置的视图。
项17:根据项14至16中任一项的计算机程序产品,其中,图像共同地包含围绕捕获位置的360度球体视图。
项18:根据项14至17中任一项的计算机程序产品,其中,基于相对于源自捕获位置的球体空间的已知共同向量(220)来显示图像。
项19:根据项14至18中任一项的计算机程序产品,进一步包括用于在用户界面中可视化(818)与球体空间内的参考点中的至少一个相关联的特定数据(230)的指令。
项20:根据项19的计算机程序产品,其中,特定数据包括以下中的至少一个:部件位置;工程图;汇编指令;已知的不一致性;或机群维护数据。
已经出于说明和描述的目的呈现了对不同说明性实施例的描述,并且不旨在是详尽的或限于所公开形式的实施例。不同的说明性示例描述了执行动作或操作的组件。在说明性实施例中,组件可以被配置成用于执行所描述的动作或操作。例如,组件可以具有为组件提供执行在说明性示例中描述为由组件执行的动作或操作的能力的结构的配置或设计。此外,在本文中使用术语“包括”、“包含”、“具有”、“含有”及其变体的范围内,这些术语旨在以类似于术语“包括”作为开放式过渡词的方式为包含性的,而不排除任何另外的或其他元素。
对于本领域普通技术人员而言,许多修改和变化将是显而易见的。此外,与其他期望的实施例相比,不同的说明性实施例可以提供不同的特征。选择和描述所选择的一个或多个实施例,以便最好地解释实施例的原理、实际应用,并且使本领域的其他普通技术人员能够理解具有适合于所设想的特定用途的各种修改的各种实施例的公开。
Claims (13)
1.一种用于在球体空间内可视化的计算机实现的方法(800),所述方法包括:
使用多个处理器(252)来执行以下操作:
从共同的三点坐标捕获位置(244)捕获(802)多个图像(204);
基于所述捕获位置创建(808)投影坐标(216)的球体(214);将对应于所述图像的参考位置(208)的三点坐标转换(810)为所述球体上的球坐标(222);
将所述参考位置的所述球坐标转换(812)成旅程场景坐标(224);
将所述参考位置的所述旅程场景坐标转换(814)成等矩形笛卡尔坐标;以及
在用户界面(226)中显示(816)从所述捕获位置的视角根据所述参考位置的图像(228)。
2.根据权利要求1所述的方法,进一步包括:
将所述图像拼接(804)在一起成为合成图像;以及
细化(806)所述合成图像。
3.根据权利要求1至2中任一项所述的方法,其中,所述图像共同地包含围绕所述捕获位置的视图。
4.根据权利要求1至3中任一项所述的方法,其中,所述图像共同地包含围绕所述捕获位置的360度球体视图。
5.根据权利要求1至4中任一项所述的方法,其中,基于相对于源自所述捕获位置的所述球体空间的已知共同向量(220)来显示所述图像。
6.根据权利要求1至5中任一项所述的方法,进一步包括:在所述用户界面中可视化(818)与所述球体空间内的参考点中的至少一个参考点相关联的特定数据(230)。
7.根据权利要求6所述的方法,其中,所述特定数据包括以下中的至少一个:
部件位置;
工程图;
汇编指令;
已知的不一致性;或
机群维护数据。
8.一种用于在球体空间内可视化的系统,所述系统包括:
存储设备,被配置为存储程序指令;以及
一个或多个处理器,所述一个或多个处理器可操作地连接至所述存储设备并且被配置为执行所述程序指令以使所述系统:
从共同的三点坐标捕获位置(244)捕获(802)多个图像(204);
基于所述捕获位置创建(808)投影坐标(216)的球体(214);
将对应于所述图像的参考位置(208)的三点坐标转换(810)为所述球体上的球坐标(222);
将所述参考位置的所述球坐标转换(812)为旅程场景坐标(224);
将所述参考位置的所述旅程场景坐标转换(814)成等矩形笛卡尔坐标;以及
在用户界面(226)中显示(816)从所述捕获位置的视角根据所述参考位置的图像(228)。
9.根据权利要求8所述的系统,其中,所述处理器还执行指令以:
将所述图像拼接(804)在一起成为合成图像;以及
细化(806)合成图像。
10.根据权利要求8至9中任一项所述的系统,其中,所述图像共同地包含围绕所述捕获位置的视图。
11.根据权利要求8至10中任一项所述的系统,其中,所述图像共同地包含围绕所述捕获位置的360度球体视图。
12.根据权利要求8至11中任一项所述的系统,其中,基于相对于源自所述捕获位置的所述球体空间的已知共同向量(220)来显示所述图像。
13.根据权利要求8至12中任一项所述的系统,其中,所述处理器还执行指令以在所述用户界面中使与所述球体空间内的参考点中的至少一个参考点相关联的特定数据(230)可视化(818)。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/816,775 US20240046411A1 (en) | 2022-08-02 | 2022-08-02 | Contextual Visualization within Spherical Images Utilizing Localized Spatial Location of Capture |
US17/816,775 | 2022-08-02 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117522677A true CN117522677A (zh) | 2024-02-06 |
Family
ID=87554290
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310961843.7A Pending CN117522677A (zh) | 2022-08-02 | 2023-08-01 | 利用捕获的局部空间位置的球体图像内的情境可视化 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20240046411A1 (zh) |
EP (1) | EP4322108A1 (zh) |
CN (1) | CN117522677A (zh) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10445867B2 (en) * | 2016-07-13 | 2019-10-15 | The Boeing Company | System and method for generating enhanced stereographic videos of aircraft build processes |
JP7135299B2 (ja) * | 2017-10-27 | 2022-09-13 | 株式会社リコー | 画像処理装置、表示装置、画像処理方法、プログラム |
AU2020227025A1 (en) * | 2019-12-10 | 2021-07-29 | Woodside Energy Technologies Pty Ltd | An asset management system |
-
2022
- 2022-08-02 US US17/816,775 patent/US20240046411A1/en active Pending
-
2023
- 2023-08-01 CN CN202310961843.7A patent/CN117522677A/zh active Pending
- 2023-08-02 EP EP23189173.0A patent/EP4322108A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4322108A1 (en) | 2024-02-14 |
US20240046411A1 (en) | 2024-02-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106547939B (zh) | 对象管理系统、飞机设计系统及管理对象的方法 | |
US9292180B2 (en) | Locator system for three-dimensional visualization | |
JP6799938B2 (ja) | 製品可視化システム | |
JP2019109911A (ja) | 製造注文インスタンスの視覚化システム | |
JP6418759B2 (ja) | 組み立ての状況の視覚化システム | |
US10214301B2 (en) | Automated control system for manufacturing aircraft | |
US10155596B2 (en) | Three-dimensional aircraft inspection system for layout of passenger accommodations | |
JP2020107321A (ja) | 複合材部品製造用の拡張現実システム | |
JP7421895B2 (ja) | 物体に対する不適合データを可視化するための拡張現実システム | |
CN104050601A (zh) | 基于建造周期的组装情况可视化系统 | |
US20190017945A1 (en) | Aircraft Inspection System with Visualization and Recording | |
CN108734768A (zh) | 三维大规模模型可视化数据库系统 | |
JP7438680B2 (ja) | アクティブポータブルアンカーを有する拡張現実システム | |
US10831946B2 (en) | Multi-configuration massive model system | |
CN117522677A (zh) | 利用捕获的局部空间位置的球体图像内的情境可视化 | |
US11454959B2 (en) | Product manufacturing with a manufacturing product and process structure | |
US20220187803A1 (en) | Shop Floor Social Distancing for Aircraft Assembly | |
US20230342513A1 (en) | Temporal Based Multiconfiguration Dataset System | |
US11900329B2 (en) | Module-based schedule generation | |
US20210209260A1 (en) | Model maturity state evaluation system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |