CN107782322B - 室内定位方法与系统及其室内地图建立装置 - Google Patents

室内定位方法与系统及其室内地图建立装置 Download PDF

Info

Publication number
CN107782322B
CN107782322B CN201710140292.2A CN201710140292A CN107782322B CN 107782322 B CN107782322 B CN 107782322B CN 201710140292 A CN201710140292 A CN 201710140292A CN 107782322 B CN107782322 B CN 107782322B
Authority
CN
China
Prior art keywords
dimensional
indoor
portable electronic
image
electronic device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710140292.2A
Other languages
English (en)
Other versions
CN107782322A (zh
Inventor
黄俊尧
王友光
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Osense Technology Co ltd
Original Assignee
Osense Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from TW105136161A external-priority patent/TWI631861B/zh
Application filed by Osense Technology Co ltd filed Critical Osense Technology Co ltd
Publication of CN107782322A publication Critical patent/CN107782322A/zh
Application granted granted Critical
Publication of CN107782322B publication Critical patent/CN107782322B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G01C21/30Map- or contour-matching
    • G01C21/32Structuring or formatting of map data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • G01C21/206Instruments for performing navigational calculations specially adapted for indoor navigation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Computer Graphics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Instructional Devices (AREA)

Abstract

本发明涉及一种室内定位方法与系统及其室内地图建立装置。所述室内定位方法包括:将对应室内环境的环场图像转换为多个透视图像,并获取此些透视图像中的多个参考特征点与此些参考特征点的描述矩阵;以拍摄环场图像的拍摄位置为原点,记录对应每一个透视图像的中心位置的多个三维参考坐标值;根据此些三维参考坐标值计算参考特征点相对于原点的三维坐标值,并将参考特征点的三维坐标值与参考特征点的描述矩阵储存为对应室内环境的室内地图;以及根据室内地图定位便携式电子装置于室内环境中相对于原点的三维目标坐标值。本发明不仅提升使用者即时获得定位服务的品质与效率,更有效率地提供给使用者相应的信息,提升使用者操作体验感。

Description

室内定位方法与系统及其室内地图建立装置
技术领域
本发明涉及一种室内定位方法,且尤其涉及一种在室内环境下定位便携式电子装置的室内定位方法、室内定位系统及其室内地图建立装置。
背景技术
随着无线移动设备的日渐普及,越来越多使用者通过移动装置完成生活上的各种活动,而各种无线上网环境也与之遽增。随着无线环境的成熟,各个设备厂商也着重在无线环境的加值应用,其中一项就是以提供位置信息的位置感知服务,通过位置感知服务,使用者可以获得在其附近的各种信息与服务,以迅速找到自己的目标。另一方面,对于商家或服务商而言,则希望可利用位置感知以在使用者在其营业场所内(例如,卖场、餐厅、停车场及百货公司等)推送信息(例如广告)给使用者。基于上述需求,必须要有一种能够在室内迅速定位及导航的室内定位导航系统,以利商家或服务商与使用者之间进行数据的交换。
目前的商用定位系统,例如全球定位系统(global positioning system,GPS)基本上是用于进行室外定位,其可以在信号良好的环境中达到较高的定位准确度以及较快的定位速度。由于卫星的信号在室内会大幅地衰减,从而导致这些室外定位系统较难应用于室内定位的情境中。而目前应用于室内的三维物体定位或三维物体追踪技术也受限于无法接收GPS信号,而采用具有无线通信功能(例如,蓝牙、WIFI等)的使用者装置发射信号并根据信号强度指标值来判别其与周遭物体的距离,或者将具有无线通信功能的标签配置于室内物件上,以利用近距离无线通信技术通过无线电信号读写相关数据并识别特定目标。然而,由于此些三维物体定位技术也是基于信号的接收与信号强弱的判别来实现,因此也容易受限于环境的影响而导致信号不稳定,进而影响三维物体定位的正确性。此外,无线射频辨识功能事实上仅能通过标签来识别特定的目标,而无法判别使用者装置与周遭物体的距离,且标签配置的多寡也会受限于成本预算。
再者,利用基地台来进行定位也是一种常见的方法,例如,定位设备(例如使用者的移动装置)可通过计算信号到达基地台的时间来计算出当前的位置。然而,由于这种方法的误差可能高达数百公尺,因此同样不适于应用在室内定位的情境中。
基于上述可知,基于无线网络的定位方式较适用于宽敞的室外或大型体育场等无障碍的室外空间,室内、走廊等建筑物内的定位效果皆不好。并且,上述各种技术都较适用于平面定位,并无法达到精确的三维定位。显然地,上述各种定位技术并无法满足室内定位的需求,因此至今仍没有一套可广为大众所使用的室内定位系统。
发明内容
本发明提供一种室内定位方法、室内定位系统及其室内地图建立装置,在离线状态下以电脑快速地建置室内地图并上传至伺服器端,且在连线状态下以使用者端的便携式电子装置下载室内地图,即可通过比对其便携式电子装置所获取的即时图像与室内地图来定位便携式电子装置,据此,不仅提升使用者即时获得定位服务的品质与效率,更有效率地提供给使用者相应的信息,进而提升使用者更方便的操作体验。
本发明的一范例实施例提出一种室内定位方法,用于定位一便携式电子装置,所述室内定位方法包括:将对应一室内环境的环场图像转换为多个透视图像,并获取所述透视图像中的多个参考特征点与此些参考特征点的描述矩阵;以拍摄环场图像的拍摄位置为原点,记录对应每一个透视图像的中心位置的多个三维参考坐标值;根据此些三维参考坐标值计算所述参考特征点相对于所述原点的三维坐标值,并将所述参考特征点的三维坐标值与所述参考特征点的描述矩阵储存为对应室内环境的室内地图;以及根据所述室内地图定位便携式电子装置于所述室内环境中相对于原点的三维目标坐标值。
在本发明的一范例实施例中,所述以拍摄环场图像的拍摄位置为原点,记录对应每一个透视图像的中心位置的三维参考坐标值的步骤包括:取得每一个透视图像的中心位置的纵轴方向上与横轴方向上的多个参考像素,并将所述参考像素的三维坐标值记录为三维参考坐标值。
在本发明的一范例实施例中,所述每一个参考特征点对应至其透视图像中的一特征点像素,且根据三维参考坐标值计算所述一特征点相对于原点的三维坐标值的步骤包括:取得所述纵轴方向上对应所述特征点像素的第一参考像素与所述横轴方向上对应所述特征点像素的第二参考像素;以及根据第一参考像素的三维参考坐标值与第二参考像素的三维参考坐标值计算所述特征点像素的三维坐标值。
在本发明的一范例实施例中,所述建立室内地图的操作是在离线模式中执行,且所述离线模式为与网际网络不连接的状态。
在本发明的一范例实施例中,所述室内地图储存于一定位数据库,且根据所述室内地图定位便携式电子装置于室内环境中相对于原点的三维目标坐标值的步骤包括:通过便携式电子装置取得即时图像,并获取即时图像中的多个目标特征点与此些目标特征点的描述矩阵;比对所述参考特征点的描述矩阵与所述目标特征点的描述矩阵,且在所述参考特征点的描述矩阵与所述目标特征点的描述矩阵之间的差异值小于预设临界值时,从定位数据库中取出与所述目标特征点的描述矩阵之间的差异值小于预设临界值的参考特征点的三维坐标值;以及利用从所述定位数据库中所取出的参考特征点的三维坐标值计算三维目标坐标值与便携式电子装置的旋转角度。
在本发明的一范例实施例中,所述定位便携式电子装置于室内环境中相对于原点的三维目标坐标值的操作是在连线模式中执行,且连线模式为与网际网络相连接的状态。在比对所述参考特征点的描述矩阵与所述目标特征点的描述矩阵之前的步骤还包括:通过网际网络判定便携式电子装置所在的室内环境,并下载对应所述室内环境的室内地图至所述便携式电子装置。
本发明的一范例实施例提出一种室内定位系统,包括:摄像装置、便携式电子装置,以及室内地图建立装置。其中所述摄像装置用以拍摄对应室内环境的环场图像,且室内地图建立装置连接所述摄像装置。所述室内地图建立装置包括:储存装置与处理器。所述储存装置储存定位数据库,而所述处理器耦接储存装置,且用以将环场图像转换为多个透视图像,并获取此些透视图像中的多个参考特征点与此些参考特征点的描述矩阵。处理器更用以拍摄环场图像的拍摄位置为原点,记录对应每一个透视图像的中心位置的多个三维参考坐标值。此外,处理器更用以根据此些三维参考坐标值计算所述参考特征点相对于原点的三维坐标值,并将由所述参考特征点的三维坐标值与所述参考特征点的描述矩阵所组成的对室内环境的室内地图储存至定位数据库中。所述便携式电子装置用以根据室内地图定位便携式电子装置于室内环境中相对于原点的三维目标坐标值。
在本发明的一范例实施例中,所述处理器更用以取得每一个透视图像的中心位置的纵轴方向上与横轴方向上的多个参考像素,并将此些参考像素的三维坐标值记录为所述三维参考坐标值。
在本发明的一范例实施例中,所述每一个参考特征点对应至其透视图像中的一特征点像素,且处理器更用以取得纵轴方向上对应所述特征点像素的第一参考像素与横轴方向上对应所述特征点像素的第二参考像素。并且,处理器更用以根据所述第一参考像素的三维参考坐标值与所述第二参考像素的三维参考坐标值计算所述特征点像素的三维坐标值。
在本发明的一范例实施例中,所述便携式电子装置更用以取得即时图像,并获取此即时图像中的多个目标特征点与此些目标特征点的描述矩阵。所述便携式电子装置更用以通过网际网络判定便携式电子装置所在的室内环境,并下载对应此室内环境的室内地图至便携式电子装置。所述便携式电子装置更用以比对所述参考特征点的描述矩阵与所述目标特征点的描述矩阵,且在所述参考特征点的描述矩阵与所述目标特征点的描述矩阵之间的差异值小于一预设临界值时,从所述定位数据库中取出与此些目标特征点的描述矩阵之间的差异值小于所述预设临界值的参考特征点的三维坐标值。并且,便携式电子装置更用以利用从定位数据库中所取出的所述参考特征点的三维坐标值计算三维目标坐标值与便携式电子装置的旋转角度。
在本发明的一范例实施例中,所述处理器操作于离线模式中且所述便携式电子装置操作于连线模式,其中离线模式为与网际网络不连接的状态,而连线模式为与网际网络相连接的状态。
本发明的一范例实施例提出一种室内地图建立装置,其包括储存装置与处理器。储存装置储存一定位数据库与多个模块,处理器耦接至储存装置,载入并执行储存于储存装置中的多个模块,且处理器操作于离线模式中。所述模块包括:输入模块、图像处理模块、特征获取模块与运算模块。输入模块用以接收对应室内环境的环场图像;图像处理模块用以将环场图像转换为多个透视图像,且图像处理模块更用以以拍摄所述环场图像的拍摄位置为原点,记录对应每一个透视图像的中心位置的多个三维参考坐标值;特征获取模块用以获取所述透视图像中的多个参考特征点与此些参考特征点的描述矩阵;以及运算模块用以根据图像处理模块所记录的所述三维参考坐标值计算所述参考特征点相对于原点的三维坐标值,并将由所述参考特征点的三维坐标值与所述参考特征点的描述矩阵所组成的对应室内环境的室内地图储存至定位数据库中。
在本发明的一范例实施例中,所述运算模块更用以取得每一个透视图像的中心位置的纵轴方向上与横轴方向上的多个参考像素,并将此些参考像素的三维坐标值记录为所述三维参考坐标值。
在本发明的一范例实施例中,每一个参考特征点对应至其透视图像中的一特征点像素,且所述运算模块更用以取得纵轴方向上对应所述特征点像素的第一参考像素与横轴方向上对应所述特征点像素的第二参考像素。并且运算模块更用以根据所述第一参考像素的三维参考坐标值与所述第二参考像素的三维参考坐标值计算所述特征点像素的三维坐标值。
在本发明的一范例实施例中,所述离线模式为与网际网络不连接的状态。
基于上述,上述范例实施例是通过在离线模式中通过仅记录环场图像所展开的透视图像的中心位置的纵轴方向上与横轴方向上的多个参考像素的三维参考坐标值的技术方案,达到有效地节省储存装置的存储器空间,且提升取得透视图像中每一特征点的三维坐标的效能,进而快速地建置室内地图。据此,便携式电子装置可在连线模式中快速地比对其自身所获取的即时图像与室内地图来定位使用者的便携式电子装置。
为让本发明的上述特征和优点能更明显易懂,下文特举实施例,并配合附图作详细说明如下。
附图说明
图1是根据本发明一实施例所示出的室内定位系统的示意图。
图2是根据本发明一实施例所示出的室内地图建立装置的框图。
图3是根据本发明一实施例所示出的室内定位方法的流程图。
图4A~4D是根据本发明一实施例所示出的将环场图像转换为多个透视图像的示意图。
图5是根据本发明一实施例所示出的记录对应透视图像的中心位置的多个三维参考坐标值的示意图。
图6是根据本发明一实施例所示出的根据透视图像中对应中心位置的三维参考坐标值计算特征点的三维坐标值的示意图。
图7A是根据本发明一实施例所示出的圆柱坐标系统与笛卡儿坐标系统的对应关系的示意图。
图7B是根据本发明一实施例所示出的环场图像的俯视图。
图7C是根据本发明一实施例所示出的环场图像的侧视图。
图7D是根据本发明一实施例所示出的圆柱坐标系统的对称性的示意图。
附图标号说明:
100:室内定位系统;
102:网际网络;
110:摄像装置;
120:便携式电子装置;
200:室内地图建立装置;
202:储存装置;
204:处理器;
210:输入模块;
220:图像处理模块;
230:特征获取模块;
240:运算模块;
250:定位数据库;
S301、S303、S305、S307:室内定位方法的步骤;
400:环场图像;
410:原点;
400a~400h、400i~400p:透视图像;
420、420’:展开透视图像;
500:中心位置;
502:纵轴方向;
504:横轴方向;
500a:特征点像素;
500b:第一参考像素;
500c:第二参考像素。
具体实施方式
为了提供使用者可以在室内环境中快速且方便地找到自己的目的地或目标物,以及提供业者可在室内环境中通过定位及导航功能与使用者之间进行数据交换的功能,本发明通过离线分析所取得的360度环场图像(也称为全景图像)来建置室内地图,并通过图像辨识技术比对使用者的便携式电子装置所获取的画面与室内地图,进而定位使用者的便携式电子装置。由此使得便携式电子装置的定位并不受限于基于无线网络与空间障碍所导致的信号不稳定与定位不正确的情况。基此,有效地提升使用者即时获得定位服务的品质与效率。
图1是根据本发明一实施例所示出的室内定位系统的示意图。请参照图1,室内定位系统100包括室内地图建立装置200、摄像装置110与便携式电子装置120。所述摄像装置110例如是凸透镜及单眼摄像机所组成的反射式摄像机(catadioptric camera),然而,本发明并不限于此,例如,摄像装置110可以是其他可以可拍摄出360度环场图像的全景摄像机(omni-directional camera)。便携式电子装置120可以是移动装置、个人数字助理(Personal Digital Assistant,PDA)、平板电脑等,或是其他可使用无线通信网络连接至网际网络102,并与室内地图建立装置200进行通信与数据传输的电子装置等。此外,网际网络102例如为无线保真(Wireless Fidelity,WiFi)网络或全球移动通信系统(GlobalSystem for Mobile,GSM)网络。然而,必须了解的是,网际网络102也可以是其他合适的网络通信协定,本发明不加以限制。
举例而言,室内地图建立装置200会被操作于一离线模式,并且室内地图建立装置200会从摄像装置110接收环场图像,以根据环场图像来建置室内地图;而便携式电子装置120会被操作于一连线模式,以通过网际网络102从室内地图建立装置200下载室内地图以进行对便携式电子装置120的定位操作,其中所述离线模式为与网际网络102不连接的状态,而连线模式为与网际网络102相连接的状态。必须了解的是,本范例以一个便携式电子装置为例进行说明,但本发明并不限于此。例如,室内定位系统100可包括更多个便携式电子装置,且各个便携式电子装置皆可进行定位计算以获得自身于室内环境中的三维坐标值。
图2是根据本发明一实施例所示出的室内地图建立装置的框图。请参照图2,室内地图建立装置200包括储存装置202以及处理器204。在本实施例中,室内地图建立装置200可以是具有运算功能的伺服器或电脑系统。
储存装置202可以是任何形式的固定式或可移动式随机存取存储器(randomaccess memory,RAM)、只读存储器(read-only memory,ROM)、闪存存储器(flash memory)、固态硬盘(Solid State Drive,SSD)或类似元件或上述元件的组合。在本实施例中,储存装置202用以储存输入模块210、图像处理模块220、特征获取模块230、运算模块240以及定位数据库250等软件程序。
处理器204系耦接至储存装置202。处理器204可以是具有单核心或多核心的中央处理单元(Central Processing Unit,CPU),或是其他可编程的一般用途或特殊用途的微处理器(Microprocessor)、数字信号处理器(Digital Signal Processor,DSP)、可编程控制器、特殊应用集成电路(Application Specific Integrated Circuit,ASIC)或其他类似元件或上述元件的组合。在本范例实施例中,处理器204用以存取并执行上述储存装置202中所记录的输入模块210、图像处理模块220、特征获取模块230、运算模块240以及定位数据库250,借以实现本发明实施例的室内定位方法。为了更清楚地描述本发明的室内定位系统100及其室内地图建立装置200与便携式电子装置120的运作,以下将参照图1、图2与图3以一范例来进行说明。
图3是根据本发明一实施例所示出的室内定位方法的流程图。请同时参照图1~图3,室内地图建立装置200的输入模块210会从摄像装置110接收一环场图像,并且在步骤S301中,图像处理模块220会将从输入模块210所接收的环场图像转换为多个透视图像,而特征获取模块230会获取此些透视图像中的多个特征点(feature points)(也称为参考特征点)与此些参考特征点的描述矩阵(descriptors)。
具体而言,环场图像可分为球体型全景图像、圆柱型全景图像与四方体全景图像,在本范例实施例中,摄像装置110所拍摄的环场图像是属于圆柱型全景图像。由于圆柱型全景图像可展开成仅有左右边界有曲度变型的透视图像,因此采用圆柱型全景图像可以保留画面大部分特征点的原始状态。
在本发明范例实施例中,是利用比对使用者的便携式电子装置120所获取的即时图像的目标特征点与转换为透视图像后的环场图像的参考特征点,进而根据比对到的相同的特征点的三维坐标来定位便携式电子装置120。由于便携式电子装置120所获取的即时图像是采用笛卡儿坐标系统(Cartesians Coordinate System),而圆柱型全景图像是采用圆柱坐标系统(Cylindrical Coordinate System),因此,当对上述两者进行比对时,会因其坐标系统的不同,导致所计算出来的特征点的个数与位置不会完全符合,而得到不准确的比对结果。此外,由于一个环场图像并无法直接转换为一整张属于笛卡儿坐标系统的图像。据此,在上述步骤S301中,图像处理模块220会将所接收的环场图像转换为多个透视图像。
图4A~4D是根据本发明一实施例所示出的将环场图像转换为多个透视图像的示意图。
请参照图4A~4D,摄像装置110所拍摄的环场图像400的中心点为摄像装置110所在的拍摄位置,换言之,如图4A所示,所述摄像装置110的拍摄位置即为环场图像400的原点410。在本范例实施例中,如图4B所示,图像处理模块220会将环场图像400切割成8张等宽的条状透视图像400a~400h,而每张条状的透视图像会涵盖从圆柱型环场图像400的原点410所看到的45度水平视角(Field-of-View)。值得一提的是,本范例实施例中是基于市面上的移动装置(例如,智能手机)的视角大约为45度,因此采用以45度水平视角作为切割标准,但本发明并不欲加以限制作为切割标准的水平视角的大小,例如,在另一范例实施例中,也可视实际需求而将切割标准设为大于或小于45度的水平视角。
如上所述,由于便携式电子装置120所获取的即时图像是采用笛卡儿坐标系统,而圆柱型全景图像是采用圆柱坐标系统,因此,圆柱型环场图像400展开为透视图像的过程中,会牵涉到两个坐标系统的转换。如图4C所示,以透视图像400a为例,转换为笛卡儿坐标系统后的透视图像400a的顶部与底部呈现一凹状区域,此也导致透视图像400a的左右边界成为具有曲度变型的图像,例如,透视图像400a中会存在尚未填灰阶颜色的像素所构成的条状线条(未示出),此称为失真效应(Aliasing effect)。有鉴于此,在本发明范例实施例中,图像处理模块220会对透视图像400a进行图像处理以将上述尚未填灰阶颜色的像素所构成的条状线条赋予其左右相邻的像素的平均值。
特别是,在本发明范例实施例中,图像处理模块220在将环场图像400转换为多个透视图像的操作中会产生两组对应环场图像400的展开透视图像420与展开透视图像420’(如图4D所示),其中展开透视图像420是将依照图4B所示的切割角度切割而成得的透视图像400a~400h展开所获得的,而展开透视图像420’是将与图4B所示的切割角度相差22.5度的切割角度切割而成得的透视图像400i~400p展开所获得的。通过此两组展开透视图像(即,展开透视图像420与展开透视图像420’)可改善每一个透视图像的左右边界的曲度变型所造成的比对不精确问题,并增加后续对透视图像中特征点的运算的准确性。例如,以透视图像400b为例,其左右边界的曲度变型所造成的比对不精确问题,可利用透视图像400i与透视图像400j所产生的参考特征点来弥补。
另外,在上述步骤S301中,特征获取模块230所执行的获取透视图像400a~400h中的多个参考特征点与此些参考特征点的描述矩阵的操作,例如是采用BRIEF(BinaryRobust Independent Elementary Features)、ORB(Oriented FAST and Rotated BRIEF)或BRISK(Binary Robust Invariant Scalable Keypoints)等以二比特字串作为描述矩阵向量的演算法来进行特征获取的操作。具体而言,BRIEF演算法是在特征点的邻近范围内选取若干个像素对,通过对这些像素对的灰度值比较,以将比较的结果组合成一个二比特字串用来描述特征点。并且,使用汉明距离(Hamming Distance)来计算特征描述矩阵是否匹配。而ORB演算法针对BRIEF演算法所获的的特征点不具旋转不变性、尺度不变性及对噪声敏感的缺陷进行改良,其对图像进行高斯模糊并产生尺度空间使特征点具有尺度不变性,接着再对特征点进行矩向量(Moment vector)运算,使得特征点具备方向不变性,最后再对特征点进行BRIEF特征描述,让所取得的特征点具有旋转不变性、尺度缩放不变性以及不易受噪声干扰等优点。类似地,BRISK演算法也是基于BRIEF所改良的其特征点具有尺度不变性与旋转不变性的演算法。
接着,在步骤S303中,图像处理模块220会以拍摄环场图像400的拍摄位置为原点410,记录对应每一个透视图像400a~400h的中心位置的多个三维坐标值(也称为三维参考坐标值)。换言之,图像处理模块220所记录的三维参考坐标值是相对于原点410的三维坐标值的相对坐标位置。在此,所述的对应每一个透视图像400a~400h的中心位置的多个三维参考坐标值指的是每一个透视图像400a~400h的中心位置的纵轴方向上与横轴方向上的多个像素(也称为多个参考像素)所对应的坐标值。
图5是根据本发明一实施例所示出的记录对应透视图像的中心位置的多个三维参考坐标值的示意图。
请参照图5,在本范例实施例中,以环场图像400所展开的透视图像400d为例,图像处理模块220会取得透视图像400d的中心位置500的纵轴方向502上与横轴方向504上的多个参考像素,并且仅记录此些参考像素的三维参考坐标值。类似地,图像处理模块220也会仅记录其他透视图像(即,透视图像400a~400c、400e~400h)的中心位置500的纵轴方向502上与横轴方向504上的多个参考像素的三维参考坐标值。由于图像处理模块220不需记录每一个透视图像中所有像素的三维坐标值,因此可有效地节省储存装置202的存储器空间。
特别是,在将圆柱型环场图像400展开为多个透视图像400a~400h的过程中,纵轴方向502上的参考像素在坐标系统转换的操作中其三维参考坐标值事实上并未改变,而横轴方向504上的参考像素在坐标系统转换的操作中仅有接近边缘处的参考像素略有变型。换言之,每一个透视图像的中心位置500的纵轴方向502上与横轴方向504上的参考像素,可视为透视图像中不会产生曲度变型的像素,因此,运算模块240可进一步地通过此些没有产生曲度变型的像素的三维坐标值,通过线性内插法来推算特征获取模块230所获取的透视图像中的多个参考特征点的三维坐标值。举例而言,在步骤S305中,运算模块240会根据所述三维参考坐标值计算参考特征点相对于原点410的三维坐标值,并将由参考特征点的三维坐标值与参考特征点的描述矩阵所组成的对应室内环境的一室内地图储存至定位数据库250中。在此,本发明范例实施例中所述的室内地图是由具有三维坐标值的特征点及其描述矩阵所构成的,而此些特征点的三维坐标值是相对于原点410的三维坐标值的相对坐标位置。
图6是根据本发明一实施例所示出的根据透视图像中对应中心位置的三维参考坐标值计算特征点的三维坐标值的示意图。
详言之,特征获取模块230从透视图像中所获取的每一个参考特征点皆属于透视图像中的像素,也即,每一个参考特征点会对应至其透视图像中的一个像素(也称为特征点像素)。在此,仍以环场图像400所展开的透视图像400d为例来说明如何获得特征点的三维坐标值。请参照图6,在此假设透视图像400d中的特征点像素500a为特征获取模块230所获取到的一个特征点,则运算模块240会取得纵轴方向502上对应此特征点像素500a的参考像素500b(也称为第一参考像素500b)与横轴方向504上对应此特征点像素500a的参考像素500c(也称为第二参考像素500c),而第一参考像素500b的三维参考坐标值与第二参考像素500c的三维参考坐标值已在步骤S303中由图像处理模块220所记录。据此,运算模块240可根据第一参考像素500b的三维参考坐标值与第二参考像素500c的三维参考坐标值快速地计算出特征点像素500a的三维坐标值。
图7A是根据本发明一实施例所示出的圆柱坐标系统与笛卡儿坐标系统的对应关系的示意图。图7B是根据本发明一实施例所示出的环场图像的俯视图。图7C是根据本发明一实施例所示出的环场图像的侧视图。图7D是根据本发明一实施例所示出的圆柱坐标系统的对称性的示意图。
请先参照图7A~图7C,图7A示出为上述范例实施例中环场图像400的圆柱坐标系统与笛卡儿坐标系统的对应关系,而图7B与图7C分别为环场图像400的俯视图与侧视图,在此,以环场图像400展开后的透视图像400a为例进行说明,其中环场图像400上的圆柱坐标(r,θ,h)对应至环场图像400所展开的透视图像400a上的笛卡儿坐标系统的三维坐标(x,y,z)。而在本发明上述范例实施例的步骤S303中,图像处理模块220所记录的每一个透视图像400a~400h中的多个三维参考坐标值即是通过以下方程式(1’)~方程式(2’),方程式(1”)~方程式(2”)与方程式(3)而获得的。
Figure BDA0001242603810000121
Figure BDA0001242603810000122
Figure BDA0001242603810000131
Figure BDA0001242603810000132
Figure BDA0001242603810000133
以下将参照图7A~7D,详细地说明本发明是如何推算出方程式(1’)~方程式(2’),方程式(1”)~方程式(2”)与方程式(3)。
请参照图7A~图7D,由于圆柱型环场图像400的周长即为其环场图像400的宽度,而圆周长的方程式为c=2π·r,其中c代表圆柱型环场图像400的周长。因此,圆柱坐标(r,θ,h)的辐射距离r可以表示成以下方程式(4)。
r=c/2π…方程式(4)
接着,在本发明范例实施例中,假设圆柱坐标系的方位角θ的弧长为l,而弧长的方程式为l=r·θ。因此,圆柱坐标系的方位角θ可以表示成以下方程式(5)。
θ=l/r…方程式(5)
特别是,基于圆柱的对称性,因此,如图7D所示,θ的值会介于-22.5度与22.5度之间,也即,-22.5°<θ<22.5°。而如上所述,本发明范例实施例是采用以45度水平视角作为切割标准来将环场图像400切割成8张等宽的条状透视图像400a~400h,据此,22.5°所涵盖的角度为每个条状透视图像的一半。
之后,根据方程式(4)、(5),并通过标准的三角函式计算与线性比例关系,可进一步地计算出上述方程式(1)~(3)以获得环场图像400的圆柱坐标(r,θ,h)所对应的笛卡儿坐标(x,y,z)。具体而言,在本范例实施例中,图像处理模块220将环场图像400转换为透视图像400a的过程中,会依序地扫描对应至透视图像400a的环场图像400上的像素以依序地对此些像素进行坐标的转换,其中图像处理模块220的扫描顺序为由左而右、由上而下。由于扫描顺序为由左而右、由上而下,因此,笛卡儿坐标(x,y,z)会以x、y、z的顺序被计算出来。
请再参照图7B,图7B中的L为图像处理模块220扫描透视图像400a至角度β时,由坐标原点至透视图像400a的距离,由于
Figure BDA0001242603810000134
因此,
Figure BDA0001242603810000135
接着,根据三角函数可以求得以下x的方程式(6)。
Figure BDA0001242603810000141
此外,在本范例实施例中,每个透视图像400a~400h的中心线的夹角为45度,也即,α=22.5°,因此,方程式(6)可以改写为
Figure BDA0001242603810000142
由此即得到上述的用于透视图像400a~400h的方程式(1’)。应注意的是,方程式(1’)中的n表示为第n个透视图像,例如,在此范例中,图像处理模块220是将环场图像400切割成8张等宽的条状透视图像400a~400h,也就是说,第0个透视图像即为透视图像400a、第1个透视图像400b,并且以此类推,第2~7个透视图像即为透视图像400c~400h,换言之,在此范例实施例中,n=0,1,2,3,4,5,6,7。
相同的,因为透视图像400i~400p相差22.5度,因此,方程式(6)可以改写为
Figure BDA0001242603810000143
由此可得到上述的用于透视图像400i~400p的方程式(1”)。
同理,根据三角函数可以求得上述y的方程式
Figure BDA0001242603810000144
即,透视图像400a~400h的方程式(2’)。以及根据三角函数可以求得上述y的方程式
Figure BDA0001242603810000145
即,透视图像400i~400p的方程式(2’)。
最后,请再参照图7C,根据z与h的线性比例关系可以求得上述z的方程式(3)。由于
Figure BDA0001242603810000146
因此,
Figure BDA0001242603810000147
即,方程式(3)。
值得注意的是,在上述步骤S301~S305中,室内地图建立装置200是在离线模式中执行建置室内地图的操作,并且所述室内地图会被储存于定位数据库250中。借此,便携式电子装置120的定位计算可由便携式电子装置120自行完成。具体而言,请再参照图3,在步骤S307中,便携式电子装置120会根据在步骤S301~S305中所建立的室内地图来定位便携式电子装置120于室内环境中相对于原点410的三维坐标值(也称为三维目标坐标值)。换言之,便携式电子装置120的姿态(即,便携式电子装置120的三维坐标值与旋转角度)不须通过伺服器端的室内地图建立装置200来计算。此外,本发明范例实施例中的室内地图建立装置200是通过离线分析所取得的360度环场图像来建置室内地图,据此,本发明的技术相较于传统上通过激光反弹、点云技术、信号强度指标值、GPS等需搭配网际网络来建置室内外地图的技术,不仅有效地节省建置室内地图的运算资源,更提升室内地图的准确性。
在本范例实施例中,便携式电子装置120会被操作于一连线模式中,由此便携式电子装置120可不断地取得当前的即时图像,并获取即时图像中的多个特征点(也称为目标特征点)与此些目标特征点的描述矩阵。应注意,在本发明范例实施例中,为了方便说明,因此将室内地图建立装置200从环场图像400所展开的透视图像400a~400h中所获取的特征点皆称为参考特征点,而便携式电子装置120从即时图像中所获取的特征点皆称为目标特征点。
具体而言,当使用者持着其便携式电子装置120且欲进入某个特定的室内环境(例如,便利商店)时,便携式电子装置120会通过网际网络102判定便携式电子装置120所在的室内环境,并从室内地图建立装置200下载对应此室内环境的室内地图至便携式电子装置120。例如,便携式电子装置120是通过GPS得知使用者目前欲进入哪一个便利商店,以从伺服器端的室内地图建立装置200的定位数据库250下载属于此便利商店的室内地图至使用者端的便携式电子装置120。
接着,便携式电子装置120会比对所述参考特征点的描述矩阵与所述目标特征点的描述矩阵,且在参考特征点的描述矩阵与目标特征点的描述矩阵之间的差异值小于一预设临界值时,从定位数据库250中取出与此些目标特征点的描述矩阵之间的差异值小于预设临界值的参考特征点的三维坐标值。举例而言,利用BRISK演算法是以圆形环的结构方式绕着特征点周围来进行取样的特性,可进而通过两个取样点之间的灰阶值差异来计算特征点的描述矩阵,此外,最内圈的取样点比较值对于两个特征描述矩阵的相似度有决定性的影响,也即,由最内圈至最外圈的取样点比较值所对应的识别特性呈现由高至低,且描述矩阵中是依序地记录最内圈至最外圈的取样点比较值所对应的比特值。
承上,所述比对所述参考特征点的描述矩阵与所述目标特征点的描述矩阵的操作,是利用汉明距离以决定两个描述矩阵的相似性,特别是,在本范例实施例中,便携式电子装置120是由内圈往外圈依序计算参考特征点的描述矩阵与目标特征点的描述矩阵之间的汉明距离,举例而言,当便携式电子装置120判定两个描述矩阵的目前圈内的比特组的汉明距离小于预设临界值时,才会进一步计算下一圈(即,目前圈的下一个外圈)的两个描述矩阵的相似性,例如,当参考特征点的描述矩阵的每一圈比特值与目标特征点的描述矩阵的每一圈比特值之间的差异值(即,汉明距离)皆小于预设临界值时,便携式电子装置120会从定位数据库250中取出与此些目标特征点的描述矩阵之间的差异值小于预设临界值的参考特征点的三维坐标值;否则,便携式电子装置120会判定两个描述矩阵不相似且停止判断此两个描述矩阵的相似性的运算。
之后,便携式电子装置120即可利用从定位数据库250中所取出的参考特征点的三维坐标值计算便携式电子装置120的三维目标坐标值与旋转角度。例如,在本发明范例实施例中,便携式电子装置120是先将与此些目标特征点的描述矩阵之间的汉明距离小于预设临界值的参考特征点的三维坐标值带入EPnP公式,再利用Ransac演算法过滤掉错误的三维坐标值,以获得所述便携式电子装置120的三维目标坐标值与旋转角度。
根据上述可知,本发明的范例实施例可分为由室内地图建立装置200于离线模式所执行的建立室内地图的操作(也称为第一阶段),以及由便携式电子装置120于连线模式所执行的定位操作(也称为第二阶段)。值得一提的是,通过第一阶段中仅记录透视图像的中心位置的纵轴方向上与横轴方向上的多个参考像素的三维参考坐标值的技术方案,不仅可有效地节省储存装置的存储器空间,更可达到快速地由此些参考坐标值求得透视图像中每一特征点的三维坐标,以在定位数据库中记录由此些特征点的三维坐标所构成的室内地图。并且,通过在第一阶段中储存对应不同室内环境的室内地图,便携式电子装置可在第二阶段中仅下载对应当前室内环境的室内地图来与其所获取的即时图像进行比对。特别是,在第二阶段中通过便携式电子装置依据特征点的描述矩阵的特性,对室内地图与即时图像所执行的描述矩阵比对操作,可快速地过滤掉不符合的描述矩阵,进而有效率且准确地定位出便携式电子装置的姿态(即,便携式电子装置120)的三维坐标值与旋转角度)。
综上所述,本发明实施例所提出的室内定位方法、室内定位系统及其室内地图建立装置能够在离线模式中分析所取得的360度环场图像,并快速地建置室内地图;如此一来,便携式电子装置可在连线模式中自行比对其自身所获取的即时图像与室内地图来定位使用者的便携式电子装置。另一方面,本发明的便携式电子装置可快速地过滤掉室内地图与即时图像之间不符合的描述矩阵以快速地定位出便携式电子装置的姿态,据此,可有效率地提供给使用者相应的信息,进而提升使用者更方便的操作体验。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (9)

1.一种室内定位方法,其特征在于,用于定位便携式电子装置,所述室内定位方法包括:
将对应室内环境的环场图像转换为多个透视图像,并获取所述多个透视图像中的多个参考特征点与所述多个参考特征点的描述矩阵;
以拍摄所述环场图像的拍摄位置为原点,取得每一个透视图像的中心位置的纵轴方向上与横轴方向上的多个参考像素,并将所述多个参考像素的三维坐标值记录为对应每一个透视图像的中心位置的多个三维参考坐标值,其中每一个参考特征点对应至其透视图像中的特征点像素;
根据所述多个三维参考坐标值计算所述多个参考特征点相对于所述原点的三维坐标值,并将所述多个参考特征点的三维坐标值与所述多个参考特征点的描述矩阵储存为对应所述室内环境的室内地图,其中根据所述多个三维参考坐标值计算所述多个参考特征点相对于所述原点的三维坐标值的步骤包括:
取得所述纵轴方向上对应所述特征点像素的第一参考像素与所述横轴方向上对应所述特征点像素的第二参考像素;以及
根据所述第一参考像素的三维参考坐标值与所述第二参考像素的三维参考坐标值计算所述特征点像素的三维坐标值;以及
根据所述室内地图定位所述便携式电子装置于所述室内环境中相对于所述原点的三维目标坐标值。
2.根据权利要求1所述的室内定位方法,其中建立所述室内地图的操作是在离线模式中执行,且所述离线模式为与网际网络不连接的状态。
3.根据权利要求1所述的室内定位方法,其中所述室内地图储存于定位数据库,且根据所述室内地图定位所述便携式电子装置于所述室内环境中相对于所述原点的所述三维目标坐标值的步骤包括:
通过所述便携式电子装置取得即时图像,并获取所述即时图像中的多个目标特征点与所述多个目标特征点的描述矩阵;
比对所述多个参考特征点的描述矩阵与所述多个目标特征点的描述矩阵,且在所述多个参考特征点的描述矩阵与所述多个目标特征点的描述矩阵之间的差异值小于预设临界值时,从所述定位数据库中取出与所述多个目标特征点的描述矩阵之间的差异值小于所述预设临界值的参考特征点的三维坐标值;以及
利用从所述定位数据库中所取出的所述多个参考特征点的三维坐标值计算所述三维目标坐标值与所述便携式电子装置的旋转角度。
4.根据权利要求3所述的室内定位方法,其中定位所述便携式电子装置于所述室内环境中相对于所述原点的所述三维目标坐标值的操作是在连线模式中执行,且所述连线模式为与网际网络相连接的状态,
其中在比对所述多个参考特征点的描述矩阵与所述多个目标特征点的描述矩阵之前的步骤还包括:
通过所述网际网络判定所述便携式电子装置所在的室内环境,并下载对应所述室内环境的所述室内地图至所述便携式电子装置。
5.一种室内定位系统,其特征在于,包括:
摄像装置,用以拍摄对应室内环境的环场图像;
便携式电子装置;以及
室内地图建立装置,连接至所述摄像装置,其中所述室内地图建立装置包括:
储存装置,储存定位数据库;以及
处理器,耦接所述储存装置,且所述处理器用以将所述环场图像转换为多个透视图像,并获取所述多个透视图像中的多个参考特征点与所述多个参考特征点的描述矩阵,
其中所述处理器更用以拍摄所述环场图像的拍摄位置为原点,记录对应每一个透视图像的中心位置的多个三维参考坐标值,
其中所述处理器更用以根据所述多个三维参考坐标值计算所述多个参考特征点相对于所述原点的三维坐标值,并将由所述多个参考特征点的三维坐标值与所述多个参考特征点的描述矩阵所组成的对应所述室内环境的室内地图储存至所述定位数据库中,
其中所述处理器更用以取得每一个透视图像的中心位置的纵轴方向上与横轴方向上的多个参考像素,并将所述多个参考像素的三维坐标值记录为所述多个三维参考坐标值,
其中每一个参考特征点对应至其透视图像中的特征点像素,且所述处理器更用以取得所述纵轴方向上对应所述特征点像素的第一参考像素与所述横轴方向上对应所述特征点像素的第二参考像素,
其中所述处理器更用以根据所述第一参考像素的三维参考坐标值与所述第二参考像素的三维参考坐标值计算所述特征点像素的三维坐标值,
其中所述便携式电子装置用以根据所述室内地图定位所述便携式电子装置于所述室内环境中相对于所述原点的三维目标坐标值。
6.根据权利要求5所述的室内定位系统,其中所述便携式电子装置更用以取得即时图像,并获取所述即时图像中的多个目标特征点与所述多个目标特征点的描述矩阵,
其中所述便携式电子装置更用以通过网际网络判定所述便携式电子装置所在的室内环境,并下载对应所述室内环境的所述室内地图至所述便携式电子装置,
其中所述便携式电子装置更用以比对所述多个参考特征点的描述矩阵与所述多个目标特征点的描述矩阵,且在所述多个参考特征点的描述矩阵与所述多个目标特征点的描述矩阵之间的差异值小于预设临界值时,从所述定位数据库中取出与所述多个目标特征点的描述矩阵之间的差异值小于所述预设临界值的参考特征点的三维坐标值,
其中所述便携式电子装置更用以利用从所述定位数据库中所取出的所述多个参考特征点的三维坐标值计算所述三维目标坐标值与所述便携式电子装置的旋转角度。
7.根据权利要求5所述的室内定位系统,其中所述处理器操作于离线模式中且所述便携式电子装置操作于连线模式,其中所述离线模式为与网际网络不连接的状态,而所述连线模式为与所述网际网络相连接的状态。
8.一种室内地图建立装置,其特征在于,包括:
储存装置,储存定位数据库与多个模块;以及
处理器,耦接所述储存装置,载入并执行储存于所述储存装置中的所述多个模块,其中所述处理器操作于离线模式中,且所述多个模块包括:
输入模块,用以接收对应室内环境的环场图像;
图像处理模块,用以将所述环场图像转换为多个透视图像,且所述图像处理模块更用以以拍摄所述环场图像的拍摄位置为原点,记录对应每一个透视图像的中心位置的多个三维参考坐标值;
特征获取模块,用以获取所述多个透视图像中的多个参考特征点与所述多个参考特征点的描述矩阵;以及
运算模块,用以根据所述图像处理模块所记录的所述多个三维参考坐标值计算所述多个参考特征点相对于所述原点的三维坐标值,并将由所述多个参考特征点的三维坐标值与所述多个参考特征点的描述矩阵所组成的对应所述室内环境的室内地图储存至所述定位数据库中,
其中所述运算模块更用以取得每一个透视图像的中心位置的纵轴方向上与横轴方向上的多个参考像素,并将所述多个参考像素的三维坐标值记录为所述多个三维参考坐标值,
其中每一个参考特征点对应至其透视图像中的特征点像素,且所述运算模块更用以取得所述纵轴方向上对应所述特征点像素的第一参考像素与所述横轴方向上对应所述特征点像素的第二参考像素,
其中所述运算模块更用以根据所述第一参考像素的三维参考坐标值与所述第二参考像素的三维参考坐标值计算所述特征点像素的三维坐标值。
9.根据权利要求8所述的室内地图建立装置,其中所述离线模式为与网际网络不连接的状态。
CN201710140292.2A 2016-08-26 2017-03-10 室内定位方法与系统及其室内地图建立装置 Active CN107782322B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201662379753P 2016-08-26 2016-08-26
US62/379,753 2016-08-26
TW105136161 2016-11-07
TW105136161A TWI631861B (zh) 2016-08-26 2016-11-07 室內定位方法與系統及其室內地圖建立裝置

Publications (2)

Publication Number Publication Date
CN107782322A CN107782322A (zh) 2018-03-09
CN107782322B true CN107782322B (zh) 2021-01-12

Family

ID=61243194

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710140292.2A Active CN107782322B (zh) 2016-08-26 2017-03-10 室内定位方法与系统及其室内地图建立装置

Country Status (2)

Country Link
US (1) US10169914B2 (zh)
CN (1) CN107782322B (zh)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9741150B2 (en) 2013-07-25 2017-08-22 Duelight Llc Systems and methods for displaying representative images
US9934222B2 (en) 2014-04-22 2018-04-03 Google Llc Providing a thumbnail image that follows a main image
US9972121B2 (en) * 2014-04-22 2018-05-15 Google Llc Selecting time-distributed panoramic images for display
USD781317S1 (en) 2014-04-22 2017-03-14 Google Inc. Display screen with graphical user interface or portion thereof
USD780777S1 (en) 2014-04-22 2017-03-07 Google Inc. Display screen with graphical user interface or portion thereof
EP3382617A1 (en) * 2017-03-30 2018-10-03 Tata Consultancy Services Limited Method and system for conducting audit for an assessment platform
US10592536B2 (en) * 2017-05-30 2020-03-17 Hand Held Products, Inc. Systems and methods for determining a location of a user when using an imaging device in an indoor facility
CN108534781A (zh) * 2018-03-30 2018-09-14 中山大学 基于视频的室内定位方法
CN112020630B (zh) * 2018-04-27 2024-06-28 北京嘀嘀无限科技发展有限公司 用于更新建筑物的3d模型的系统和方法
US10573025B2 (en) * 2018-06-03 2020-02-25 CUSEUM, Inc. Method and system for generating indoor wayfinding instructions
US11356805B2 (en) * 2018-09-01 2022-06-07 Clarkson University Determining localization from ordinal comparison data
CN109357679B (zh) * 2018-11-16 2022-04-19 山东浪潮科学研究院有限公司 一种基于显著性特征识别的室内定位方法
CN109916408A (zh) * 2019-02-28 2019-06-21 深圳市鑫益嘉科技股份有限公司 机器人室内定位和导航方法、装置、设备及存储介质
CN112179358B (zh) * 2019-07-05 2022-12-20 东元电机股份有限公司 地图数据比对辅助定位系统及其方法
US11883291B2 (en) 2019-09-19 2024-01-30 Half Moon Medical, Inc. Valve repair devices with coaptation structures and multiple leaflet capture clips
US11315326B2 (en) * 2019-10-15 2022-04-26 At&T Intellectual Property I, L.P. Extended reality anchor caching based on viewport prediction
CN110889349A (zh) * 2019-11-18 2020-03-17 哈尔滨工业大学 一种基于vslam的稀疏三维点云图的视觉定位方法
CN111034648B (zh) * 2019-12-25 2022-03-15 上海信联信息发展股份有限公司 家禽定位展示方法、装置及监控系统
FR3107349B1 (fr) * 2020-02-14 2022-01-14 Amadeus Sas Procédé et système de carte et de navigation assistées par caméra
CN111652103B (zh) * 2020-05-27 2023-09-19 北京百度网讯科技有限公司 室内定位方法、装置、设备以及存储介质
CN111680703B (zh) * 2020-06-01 2022-06-03 中国电建集团昆明勘测设计研究院有限公司 一种基于图像特征点检测与匹配的360度施工全景图联动定位方法
CN112911303B (zh) * 2021-01-27 2024-03-29 浙江商汤科技开发有限公司 图像编码方法、解码方法、装置、电子设备及存储介质
CN113077500A (zh) * 2021-03-12 2021-07-06 上海杰图天下网络科技有限公司 基于平面图的全景视点定位定姿方法、系统、设备及介质
TWI771960B (zh) * 2021-03-24 2022-07-21 百一電子股份有限公司 一種用於智慧無人載具系統的室內定位及物件搜尋方法
CN113596336B (zh) * 2021-08-02 2022-06-07 北京城市网邻信息技术有限公司 图像获取方法及装置、电子设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6671400B1 (en) * 2000-09-28 2003-12-30 Tateyama R & D Co., Ltd. Panoramic image navigation system using neural network for correction of image distortion
CN101518045A (zh) * 2006-09-21 2009-08-26 索尼株式会社 图像处理装置、图像处理方法和程序
KR101329111B1 (ko) * 2012-05-02 2013-11-14 한국과학기술연구원 실내 네비게이션 시스템 및 방법
CN103398717A (zh) * 2013-08-22 2013-11-20 成都理想境界科技有限公司 全景地图数据库采集系统及基于视觉的定位、导航方法
CN103424113A (zh) * 2013-08-01 2013-12-04 毛蔚青 移动终端基于图像识别技术的室内定位与导航方法
KR20140028589A (ko) * 2012-08-29 2014-03-10 연세대학교 산학협력단 내비게이션 장치 및 방법과 상기 방법을 수행하는 프로그램을 기록한 컴퓨터 판독 가능 기록 매체
CN105698794A (zh) * 2014-11-27 2016-06-22 英业达科技有限公司 地图捕获方法
CN106127115A (zh) * 2016-06-16 2016-11-16 哈尔滨工程大学 一种基于全景和常规视觉的混合视觉目标定位方法
US9646384B2 (en) * 2013-09-11 2017-05-09 Google Technology Holdings LLC 3D feature descriptors with camera pose information
CN105474033B (zh) * 2013-12-29 2017-06-06 刘进 智能机姿态测定、全景影像生成及目标识别方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8126260B2 (en) 2007-05-29 2012-02-28 Cognex Corporation System and method for locating a three-dimensional object using machine vision
MY147904A (en) 2009-07-29 2013-01-31 Mimos Bhd Optical device and method therefor
EP2751742A1 (en) 2011-08-31 2014-07-09 metaio GmbH Method of matching image features with reference features
US9222771B2 (en) 2011-10-17 2015-12-29 Kla-Tencor Corp. Acquisition of information for a construction site
US9349195B2 (en) * 2012-03-19 2016-05-24 Google Inc. Apparatus and method for spatially referencing images
US9154919B2 (en) * 2013-04-22 2015-10-06 Alcatel Lucent Localization systems and methods
US20140323148A1 (en) 2013-04-30 2014-10-30 Qualcomm Incorporated Wide area localization from slam maps
US8823734B1 (en) * 2013-10-14 2014-09-02 Google Inc. Indicating availability of indoor content on a digital map
US10068373B2 (en) * 2014-07-01 2018-09-04 Samsung Electronics Co., Ltd. Electronic device for providing map information
CN104333675B (zh) 2014-10-20 2017-09-05 长春理工大学 一种基于球面投影的全景电子稳像方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6671400B1 (en) * 2000-09-28 2003-12-30 Tateyama R & D Co., Ltd. Panoramic image navigation system using neural network for correction of image distortion
CN101518045A (zh) * 2006-09-21 2009-08-26 索尼株式会社 图像处理装置、图像处理方法和程序
KR101329111B1 (ko) * 2012-05-02 2013-11-14 한국과학기술연구원 실내 네비게이션 시스템 및 방법
KR20140028589A (ko) * 2012-08-29 2014-03-10 연세대학교 산학협력단 내비게이션 장치 및 방법과 상기 방법을 수행하는 프로그램을 기록한 컴퓨터 판독 가능 기록 매체
CN103424113A (zh) * 2013-08-01 2013-12-04 毛蔚青 移动终端基于图像识别技术的室内定位与导航方法
CN103398717A (zh) * 2013-08-22 2013-11-20 成都理想境界科技有限公司 全景地图数据库采集系统及基于视觉的定位、导航方法
US9646384B2 (en) * 2013-09-11 2017-05-09 Google Technology Holdings LLC 3D feature descriptors with camera pose information
CN105474033B (zh) * 2013-12-29 2017-06-06 刘进 智能机姿态测定、全景影像生成及目标识别方法
CN105698794A (zh) * 2014-11-27 2016-06-22 英业达科技有限公司 地图捕获方法
CN106127115A (zh) * 2016-06-16 2016-11-16 哈尔滨工程大学 一种基于全景和常规视觉的混合视觉目标定位方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
A fast image matching technique for the panoramic-based localization;Jiung-Yao Huang 等;《IEEE/ACIS International Conference on Computer & Information Science》;20160825;第1-6页 *
An image-based indoor positioning for digital museum applications;Hisato Kawaji 等;《16th International Conference on Virtual Systems and Multimedia》;20101213;第1-7页 *

Also Published As

Publication number Publication date
US20180061126A1 (en) 2018-03-01
CN107782322A (zh) 2018-03-09
US10169914B2 (en) 2019-01-01

Similar Documents

Publication Publication Date Title
CN107782322B (zh) 室内定位方法与系统及其室内地图建立装置
JP6676082B2 (ja) 屋内測位方法及びシステム、ならびにその屋内マップを作成するデバイス
CN102939742B (zh) 相机视图与地图视图之间的用户界面转变
US8660309B2 (en) Image processing apparatus, image processing method, image processing program and recording medium
US8644859B2 (en) Apparatus to provide augmented reality service using location-based information and computer-readable medium and method of the same
CN111179358A (zh) 标定方法、装置、设备及存储介质
US8494553B2 (en) Position determination using horizontal angles
CN106291517A (zh) 基于位置与视觉信息优化的室内云机器人角度定位方法
CN103761539B (zh) 一种基于环境特征物体的室内定位方法
US8369578B2 (en) Method and system for position determination using image deformation
CN104284092A (zh) 拍照方法及智能终端、云端服务器
CN105571583B (zh) 一种用户位置定位方法以及服务器
CN105606086A (zh) 一种定位方法及终端
CN111028358A (zh) 室内环境的增强现实显示方法、装置及终端设备
US10904431B2 (en) Camera controller
CN107193820B (zh) 位置信息获取方法、装置及设备
CN110766731A (zh) 一种全景影像与点云自动配准的方法、装置及存储介质
JP6591594B2 (ja) 情報提供システム、サーバ装置、及び情報提供方法
EP3967969A1 (en) Fisheye camera calibration system, method and apparatus, electronic device, and storage medium
Sahin Comparison and calibration of mobile phone fisheye lens and regular fisheye lens via equidistant model
CN111429529B (zh) 一种坐标转换的标定方法、电子设备以及计算机存储介质
JP2014209680A (ja) 土地境界表示プログラム、方法、及び端末装置
KR102249381B1 (ko) 3차원 영상 정보를 이용한 모바일 디바이스의 공간 정보 생성 시스템 및 방법
TWI631861B (zh) 室內定位方法與系統及其室內地圖建立裝置
CN115457202B (zh) 一种三维模型更新的方法、装置及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant