CN117957418A - 尺寸测量装置、尺寸测量方法以及程序 - Google Patents

尺寸测量装置、尺寸测量方法以及程序 Download PDF

Info

Publication number
CN117957418A
CN117957418A CN202280059791.8A CN202280059791A CN117957418A CN 117957418 A CN117957418 A CN 117957418A CN 202280059791 A CN202280059791 A CN 202280059791A CN 117957418 A CN117957418 A CN 117957418A
Authority
CN
China
Prior art keywords
basic shape
basic
measuring device
dimensional
dimension
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202280059791.8A
Other languages
English (en)
Inventor
福田将贵
松延彻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of CN117957418A publication Critical patent/CN117957418A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)

Abstract

一种尺寸测量装置(100)具备处理器和存储器,处理器利用存储器,获得对象物的三维模型(S61),从作为三维形状的多个候补的多个基本形状中选择一个基本形状(S62),将选择的基本形状拟合到三维模型(S63),利用拟合后的基本形状,对对象物的尺寸进行测量(S64)。例如可以是尺寸测量装置(100)在显示器显示用于用户从多个基本形状中指定一个基本形状的显示内容,根据由用户经由输入界面指定的信息,从多个基本形状中选择一个基本形状。

Description

尺寸测量装置、尺寸测量方法以及程序
技术领域
本公开涉及尺寸测量装置、尺寸测量方法以及程序。
背景技术
已知有一种根据点云(point cloud)数据等三维模型来测量对象物的尺寸的技术。例如,在专利文献1公开了利用由激光扫描仪获得的点云来测量尺寸的方法。
(现有技术文献)
(专利文献)
专利文献1:日本特开2019-211419号公报
发明内容
在这样利用三维模型的测量中被期待能够提高精度。本公开的目的在于提供一种能够提高测量精度的尺寸测量装置、尺寸测量方法或程序。
本公开的一个方式所涉及的尺寸测量装置具备处理器以及存储器,所述处理器利用所述存储器,获得对象物的三维模型,从作为三维形状的多个候补的多个基本形状中选择一个基本形状,将选择的所述基本形状拟合到所述三维模型,利用拟合后的所述基本形状,对所述对象物的尺寸进行测量。
通过本公开能够提供一种能够减少处理量的尺寸测量装置或尺寸测量方法。
附图说明
图1是示出实施方式所涉及的尺寸测量的例子的图。
图2是示出实施方式所涉及的尺寸测量结果的画面例子的图。
图3是实施方式所涉及的尺寸测量装置的方框图。
图4是实施方式所涉及的摄像部的方框图。
图5是实施方式所涉及的控制部的方框图。
图6是实施方式所涉及的尺寸测量部的方框图。
图7是实施方式所涉及的尺寸测量处理的序列图。
图8是示出实施方式所涉及的三维模型的例子的图。
图9是示出实施方式所涉及的属性与基本形状之间的对应关系的例子的图。
图10是示出实施方式所涉及的基本形状选择时的画面例子的图。
图11是示出实施方式所涉及的基本形状选择时的画面例子的图。
图12是示出实施方式所涉及的属性的例子的图。
图13是模式性地示出实施方式所涉及的拟合处理的图。
图14是模式性地示出实施方式所涉及的拟合后的基本形状的例子的图。
图15是用于说明实施方式所涉及的尺寸测量处理的图。
图16是示出实施方式所涉及的尺寸测量处理的流程图。
图17是示出实施方式所涉及的基本形状的选择处理的流程图。
图18是示出实施方式所涉及的尺寸测量处理的流程图。
具体实施方式
本公开的一个方式所涉及的尺寸测量装置具备处理器以及存储器,所述处理器利用所述存储器,获得对象物的三维模型,从作为三维形状的多个候补的多个基本形状中选择一个基本形状,将选择的所述基本形状拟合到所述三维模型,利用拟合后的所述基本形状,对所述对象物的尺寸进行测量。
据此,该尺寸测量装置将从对象物的三维形状的多个候补中选择的基本形状与三维模型进行拟合,利用拟合后的基本形状进行尺寸测量,从而能够提高测量精度。
例如也可以是,所述处理器使显示内容显示到显示器,所述显示内容是用于用户从所述多个基本形状中指定一个基本形状的内容,所述处理器根据由所述用户经由输入界面指定的信息,从所述多个基本形状中选择一个基本形状。
据此,该尺寸测量装置能够根据用户的选择来选择拟合的基本形状,因此容易提高拟合的精度。因而,能够提高利用了拟合后的基本形状的尺寸测量的精度。
例如也可以是,所述显示内容是用于所述用户指定所述对象物的三维形状的内容,所述处理器从所述多个基本形状中选择由所述用户经由所述输入界面指定的三维形状的基本形状。
据此,通过用户直接指定形状,从而能够高精度地选择适合拟合的基本形状。
例如也可以是,所述显示内容是用于所述用户指定所述对象物的种类的内容,所述处理器从所述多个基本形状中选择与由所述用户经由所述输入界面指定的种类预先建立了对应的基本形状。
据此,用户能够直观地进行选择操作,因此能够提高用户的利便性。
例如也可以是,所述处理器根据针对所述对象物的图像的图像识别,来判断所述对象物的种类,所述处理器从所述多个基本形状中选择与判断出的所述种类预先建立了对应的基本形状。
据此,该尺寸测量装置能够不依赖于用户的输入而自动地选择基本形状。
例如也可以是,所述处理器从所述多个基本形状中选择与所述对象物或所述尺寸测量装置所在的地点预先建立了对应的基本形状。
据此,该尺寸测量装置能够不依赖于用户的输入而自动地选择基本形状。
例如也可以是,所述处理器根据所述三维模型与所述多个基本形状的每一个进行了拟合的结果,从所述多个基本形状中选择一个基本形状。
据此,该尺寸测量装置能够不依赖于用户的输入而自动地选择基本形状。
例如也可以是,所述处理器对所述对象物的姿势进行判断,所述处理器利用判断出的所述姿势,将所述三维模型与选择的所述基本形状进行拟合。
据此,该尺寸测量装置能够实现拟合的处理量的减少或精度的提高。
此外,在本公开的一个方式所涉及的尺寸测量方法中,获得对象物的三维模型,从作为三维形状的多个候补的多个基本形状中选择一个基本形状,将选择的所述基本形状拟合到所述三维模型,利用拟合后的所述基本形状,对所述对象物的尺寸进行测量。
据此,在该尺寸测量方法中将从对象物的三维形状的多个候补中选择的基本形状与三维模型拟合,利用拟合后的基本形状进行尺寸测量,从而能够提高测量精度。
此外,本公开的一个方式所涉及的程序,能够使计算机执行所述尺寸测量方法。
另外,这些概括性的或具体的形式可以由系统、方法、集成电路、计算机程序或计算机可读的CD-ROM等记录介质来实现,也可以由系统、方法、集成电路、计算机程序以及记录介质的任意的组合来实现。
以下参考附图对实施方式具体地进行说明。另外,以下说明的实施方式都是示出本公开的一个具体例子。以下的实施方式所示的数值、形状、材料、构成要素、构成要素的配置位置以及连接形式、步骤、步骤的顺序等均为一个例子,其主旨并非是对本公开进行限定。并且,对于以下的实施方式的构成要素之中没有记载在独立技术方案的构成要素,作为任意的构成要素来说明。
(实施方式)
在收集配送物时,如果易于测量配送物的尺寸就能提高作业效率。以下要说明的是例如在平板终端或智能手机等移动终端中通过摄像机拍摄的影像,能够测量对象的尺寸的装置以及方法。
图1是示出本实施方式所涉及的尺寸测量的例子的图。图1示出了用户11(例如配送作业员或配送委托者)利用作为移动终端的尺寸测量装置100来测量对象物10(这里的例子是高尔夫球包)的尺寸的情况。
图2是示出在这种情况下的尺寸测量装置100的显示画面例子的图。例如图2所示,通过用户拍摄对象物10从而显示了对象物10的尺寸12(在这个例子中是高度、宽度、深度)。
另外,以下主要说明对配送物的尺寸进行测量的例子,但是本实施方式所涉及的尺寸测量装置100,能够适用于对任意的对象物的尺寸进行测量的用途。例如,尺寸测量装置100能够适用于对建筑施工现场的建筑结构物等的尺寸进行测量。
以下说明本实施方式所涉及的尺寸测量装置100的构成。图3是尺寸测量装置100的方框图。尺寸测量装置100具备摄像部200、控制部300、尺寸测量部400、以及用户界面500。
摄像部200拍摄图像(运动图像或静止图像)。控制部300对摄像部200、尺寸测量部400以及用户界面500进行控制。尺寸测量部400利用由摄像部200拍摄的图像,进行三维重构从而生成三维模型(例如点云(point cloud)数据)。并且,尺寸测量部400从多个三维形状的基本形状的候补中选择一个基本形状,对选择的基本形状与三维模型进行拟合,利用拟合后的基本形状对对象物的尺寸进行测量。
用户界面500接受用户的输入。并且,用户界面500向用户提示信息。例如,用户界面500是显示器以及触摸屏。另外,用户界面500并不限于上述,也可以是任意的用户界面。例如,用户界面500可以包括键盘、鼠标、麦克风、以及扬声器等中的至少一个。
图4是示出摄像部200的构成的方框图。摄像部200例如是摄像机,其具备存储部211、控制部212、光学系统213、以及图像传感器214。
在存储部211中存储有由控制部212读出并执行的程序。并且,在存储部211中暂时存储利用图像传感器214而拍摄的摄像区域的影像数据、附加在该影像数据的时间戳等元信息、摄像部200的摄像机参数、以及适用中的帧速率或分辨率等摄影设定。
这样的存储部211可以利用例如闪存等能够改写的非易失性的半导体存储器来实现。并且按照是否需要改写被保存的数据或所需的保存期间等也可以利用不能改写的ROM(Read-Only Memory:只读存储器)或易失性的RaM(Random access Memory:随机访问存储器)以作为存储部211。
控制部212例如利用CPU(Central Processing Unit:中央处理器)来实现,通过读出并执行存储在上述存储部211的程序,从而对摄像部200具备的各构成要素进行控制来实现拍摄以及其他的功能。另外,控制部212也可以通过专用电路来实现,该专用电路对摄像部200具备的各构成要素进行控制来实现拍摄以及其他的功能。换言之,控制部212可以通过软件来实现,也可以通过硬件来实现。
光学系统213是使来自摄像区域的光成像在图像传感器214上的构成要素,利用包括透镜的光学元件来实现。并且光学系统213的焦距以及视角可以是能够变更的。并且也可以利用如同广角透镜或鱼眼镜头的超广角透镜。
图像传感器214通过固体摄像元件来实现,该固体摄像元件是指,由受光面来接受光学系统收集的光,并将该接受的光转换为示出图像的电信号的CCD(Charge CoupledDevice:电荷耦合器件)图像传感器、CMOS(Complementary Metal-Oxide Semiconductor:互补式金属氧化物半导体)图像传感器、或MOS(Metal-Oxide Semiconductor:金属氧化物半导体)图像传感器等。
图5是示出控制部300的构成的方框图。控制部300具备摄像控制部301、UI控制部302、尺寸测量控制部303、以及存储部304。
控制部300进行摄像部200的控制以及向用户界面500进行信号的输入输出。并且,控制部300对尺寸测量部400发出尺寸测量的指令,该尺寸测量是针对从摄像部200接受的数据的尺寸测量。
这样的控制部300例如利用CPU来实现。存储部304通过硬盘驱动器或各种半导体存储器、或这些的组合来实现。在存储部304中存储有控制部300读出并执行的程序。并且,在存储部304中存储从摄像部200接受的数据且控制部300进行处理的对象的数据。
控制部300通过读出并执行存储在上述存储部304中的程序,从而对上述摄像部200以及尺寸测量部400进行控制。并且,控制部300执行针对与这些的控制以及处理有关的来自用户的指令的处理。
此外,这些处理中的一个处理可以包括尺寸测量指令。UI控制部302是通过由控制部300执行用于获得来自用户的指示的程序来实现的功能性的构成要素。并且,尺寸测量控制部303是通过由控制部300执行用于尺寸测量指令的程序来实现的功能性的构成要素。
另外,摄像控制部301、UI控制部302、以及尺寸测量控制部303,可以通过用于实现摄像控制、UI控制、尺寸测量指令、以及尺寸测量处理等的专用电路来实现。换言之,控制部300可以由软件来实现,也可以由硬件来实现。
摄像控制部301例如使摄像部200在不同的多个定时拍摄作为摄像区域的三维空间。
UI控制部302将从摄像部200提供来的摄像状况信息发送给用户界面500,并获得来自用户的输入。来自用户的输入是指,进行尺寸测量的对象的数据的选择结果、或尺寸测量处理的可否、或者这些的组合。在来自用户的输入是尺寸测量处理的可否的情况下,UI控制部302将尺寸测量处理的可否,例如输出给尺寸测量控制部303。
尺寸测量控制部303根据从UI控制部302接受的尺寸测量处理的可否等,使尺寸测量部400执行尺寸测量处理。并且,尺寸测量控制部303也可以根据进行尺寸测量的对象的数据的选择结果,使尺寸测量部400执行尺寸测量处理。关于尺寸测量控制部303进行的处理,稍后描述具体例子。
图6是示出尺寸测量部400的构成的方框图。尺寸测量部400具备图像获得部401、预处理部402、重构部403、属性信息提取部404、姿势估计部405、拟合部406、以及测量部407。
尺寸测量部400对经由控制部300接受的数据进行处理。具体而言,尺寸测量部400对摄像部200拍摄的规定的空间内存在的对象物执行尺寸测量处理。
图像获得部401获得摄像部200拍摄的多个图像。多个图像可以分别是静止图像,也可以分别由运动图像来构成。
预处理部402执行图像预处理。图像预处理例如是亮度调整、噪声消除、分辨率变换、色彩空间变换、镜头畸变校正、射影变换、仿射变换、边缘增强处理、剪切处理、或者这些的组合。图像预处理可以基于执行尺寸测量处理的定时来进行,也可以事先进行。由预处理部402执行图像预处理而得到的预处理完毕的多个图像可以存储在控制部300具备的存储部304。另外,由预处理部402进行的各预处理不见得必须要执行。因此,尺寸测量部400也可以是不具有预处理部402的构成。
重构部403针对规定的空间,利用摄像部200拍摄的多个图像,计算规定的空间的三维形状。重构部403例如对摄像部200拍摄的多个图像的每一个的特征点进行检测,利用得到的特征点在图像之间建立对应,根据对应关系以几何学的计算来算出规定的空间的三维模型。例如,三维模型是包括多个三维点的点云数据。另外,三维模型不限定于点云,也可以是线云、网格或体素。
属性信息提取部404针对摄像部200拍摄的多个图像或由重构部403进行了重构的三维模型,进行属性信息的提取。这里的属性信息是示出图像内的像素或三维模型内的三维点所属的对象物的属性(种类)的信息。例如,属性信息提取部404利用公知的图像识别技术,对图像内的对象物的属性进行判断。
此外,属性信息提取部404例如可以针对三维点云,基于周围的点的信息来估计各点的属性,并计算示出估计出的属性的属性信息。并且,属性信息提取部404例如针对图像数据,基于周围的像素的信息来估计在各图像中被拍摄的物体的属性信息,将估计出的属性信息与重构的三维模型的各个最小构成单位建立关联。并且,属性信息提取部404可以获得由重构部403进行了重构的三维模型。并且,属性信息提取部404可以在重构部403执行处理之前进行处理。进一步,重构部403可以利用属性信息提取部404获得的属性信息,仅计算任意的属性的区域的三维形状。另外,属性信息提取部404进行的属性信息提取处理不见得必须要执行。因此,尺寸测量部400也可以是不具有属性信息提取部404的构成。
姿势估计部405利用摄像部200拍摄的多个图像,进行对象物的姿势估计。姿势估计部405例如针对示出属性信息提取部404算出的任意的属性的图像区域,估计图像上的姿势,并将估计出的姿势作为姿势估计信息而输出给后段的拟合部406。例如,在对象物是圆柱状的情况下,通过对从侧方拍摄了该对象物的图像中的对象物的长边和短边进行判断,从而能够判断对象物的姿势。或者也可以利用公知的图像识别技术,与物体的属性的检测一起求出姿势信息。另外,姿势信息也可以是图像上的二维的姿势,也可以是三维的姿势。
此外,在建筑施工现场等使用的用途中,姿势估计部405可以利用设计信息来求出对象物的姿势。这里的设计信息是指建筑结构物的CAD(Computer-Aided Design:计算机辅助设计)数据等。在这种情况下,例如已掌握摄影装置拍摄图像时的摄影位置以及方向,根据该信息能够检测图像内的摄影对象的对象物的姿势。
拟合部406进行拟合处理,该拟合处理是将基本形状拟合到由重构部403进行了重构的三维模型的处理。
测量部407利用拟合后的基本形状,计算对象物的尺寸。测量对象的对象物可以由用户来选择,也可以自动地选择。算出结果被显示在用户界面500上。具体而言,测量部407利用拟合后的基本形状,计算基本形状的2个面之间的距离、面的大小、或面的长度等。例如,基本形状是圆柱的情况下,测量部407通过计算上表面与底面的距离来计算圆柱的高度,将算出的圆柱的高度以及圆柱的上表面的直径作为尺寸来输出。
图7是尺寸测量装置100中的尺寸测量处理的序列图。首先,由用户经由用户界面500发出拍摄的开始指示(S11)。例如通过画面上的菜单的选择、或应用的启动等来发出开始指示。
控制部300在接受了开始指示时,向摄像部200发送拍摄指示。摄像部200按照拍摄指示来拍摄多个图像(静止图像)(S12)。在此得到的多个图像(静止图像)是对相同的对象物从不同的视点进行了拍摄的2个以上的图像。例如,用户使用单一的摄像装置(例如,平板终端)从不同的位置拍摄对象物(例如高尔夫球包)的图像。
另外,摄像部200不一定包括在尺寸测量装置100中,也可以包括在与包括尺寸测量装置100的终端不同的别的终端中。在这种情况下,由摄像部200拍摄的图像,经由无线通信等任意的通信单元发送给尺寸测量装置100。
被拍摄的多个图像经由控制部300发送给尺寸测量部400。尺寸测量部400利用多个图像进行三维重构,从而生成三维模型(S13)。被生成的三维模型发送给控制部300。图8是示出三维模型的一例的图。三维模型20由各自具有三维坐标的多个点来构成。另外,在该图中用虚线示出了对象物(高尔夫球包)的形状,以供参考,但是该虚线所示的信息不包括在三维模型20中。并且,各点不仅可以具有位置信息(例如三维坐标),也可以具有颜色以及法向矢量等属性信息。
此外,尺寸测量部400利用多个图像,生成示出对象物的属性(种类)的属性信息(S14)。例如,属性信息提取部404利用公知的图像识别技术,对图像内的对象物的属性进行判断。将生成的属性信息发送给控制部300。
接下来控制部300将拟合到三维模型的基本形状的多个候补,输出给用户界面500(S15)。这里的基本形状是指,长方体、多棱柱、多棱锥、圆、圆柱、圆锥、球冠等三维形状。并且,基本形状也可以是将这些组合起来表现的形状。换言之,基本形状是1个以上的平面或1个以上的曲面、或将这些组合起来构成的三维形状。
具体而言,控制部300利用属性信息,对预先规定的多个基本形状的候补设定优先级。例如,多个属性的每一个预先与1个以上的基本形状的候补建立了对应。图9是示出属性与基本形状的候补的对应关系的例子的图。例如图9所示“高尔夫球包”与“圆柱”建立了对应,“纸壳箱”与“长方体”建立了对应。控制部300将与对象物的属性建立了对应的候补的优先级设定得高。
另外,在属性信息的判断中使用了图像识别的情况下,可以根据该图像识别而得到的确实性,来设定优先级。通常在图像识别中,针对一个对象物计算多个属性的确实性(概率)。因而,可以使与确实性更高的属性建立了对应的基本形状的优先级设定得更高。被决定的候补以及优先级,发送给用户界面500。
接下来经由用户界面500,用户进行基本形状的选择(S16)。图10是示出这种通知画面的一例的图。例如,在图10中示出了拍摄的对象物10的图像和多个基本形状30的候补。另外,在图10中,图像中重叠显示了三维模型,但是也可以不显示三维模型。并且这时按照控制部300决定的优先级,来决定多个基本形状30的显示顺序。具体而言,以优先级越高的基本形状30就越容易被选择的方式,而显示在上位的位置。另外,也可以排除优先级比预先规定的阈值低的基本形状,而只显示优先级比该阈值高的基本形状。
图11是示出选择画面的另一例的图。如图11所示,用户可以不选择基本形状本身,而是选择对象物10的属性31(种类)。在这种情况下,也可以按照在控制部300决定的优先级,来决定多个属性31的显示顺序。并且,在选择了属性的情况下,选择与该属性预先建立了对应的基本形状。另外,属性与基本形状的对应关系,例如与图9所示的例子同样。
此外,也可以将属性的选择与基本形状的选择这双方进行组合。例如也可以是在图11所示的画面中,在选择了属性的情况下,显示与该属性预先建立了对应的1个以上的基本形状,用户选择该1个以上的基本形状中的1个基本形状。
图12是示出属性的一个例子的图。如图12所示,多个属性包括纸壳箱、纸袋、波士顿包等。并且,各个属性预先与1个以上的基本形状建立对应。
此外,选择的基本形状的信息经由控制部300发送给尺寸测量部400。并且,尺寸测量部400利用被拍摄的图像,进行对象物的姿势估计(S17)。接下来尺寸测量部400将选择的基本形状与三维模型进行拟合(S18)。
图13是用于说明拟合处理的图。如图13所示,尺寸测量部400对选择的基本形状32一边进行移动、旋转、以及各轴方向的放大以及缩小等几何变换,一边计算在各状态中的三维模型20与基本形状32的误差。例如,作为误差,计算在三维模型20中包含的各点与基本形状32之间的距离的总和。尺寸测量部400将算出的误差为最小的状态的基本形状32,作为拟合后的基本形状33来输出。另外,距离的总和可以是排除了异常值或偏离值的值。
或者可以是尺寸测量部400在算出的误差比预先规定的阈值小的情况下,将该状态的基本形状32作为拟合后的基本形状33来输出,并且结束处理。图14是示出三维模型20和拟合后的基本形状33的例子的图。
此外,成为拟合的对象的三维模型20可以是被生成的三维模型的全部,也可以是三维模型的一部分。该三维模型的一部分区域,可以由用户来选择,也可以自动地选择。例如,尺寸测量部400根据被提取的属性信息,来选择属于相同的属性的点。
此外,作为该拟合的初始值或/和限制条件,也可以使用估计出的对象物的姿势。例如,尺寸测量部400可以将旋转的初始值设定为与估计出的对象物的姿势一致。或者尺寸测量部400可以以估计出的对象物的姿势在规定范围内变换的方式来限制几何变换的范围。据此,既能够减少运算量,还能够提高拟合的精度。
接下来尺寸测量部400利用拟合后的基本形状33来测量对象物10的尺寸(S19)。图15是示出利用拟合后的基本形状33进行尺寸测量的例子的图。例如图15所示,尺寸测量部400对对象物10的宽度、高度以及深度进行测量。例如,可以按照每个基本形状或每个属性来预先规定测量对象(宽度、高度以及深度等)。或者测量对象可以由用户来指定。得到的测量结果发送给控制部300,控制部300将测量结果作为尺寸信息来输出给用户界面500(S20)。最后用户界面500,例如图2所示那样来显示对象物10(高尔夫球包)的尺寸12(S21)。
图16是示出尺寸测量部400的处理的流程的流程图。首先,尺寸测量部400获得从不同的视点拍摄了对象物的多个图像(S41)。接下来尺寸测量部400对获得的多个图像执行上述的预处理(S42)。接下来尺寸测量部400利用预处理后的多个图像进行三维重构来生成三维模型(S43)。并且,尺寸测量部400利用多个图像,生成示出对象物的属性(种类)的属性信息(S44)。例如,属性信息提取部404利用公知的图像识别技术,对图像内的对象物的属性进行判断。
此外,尺寸测量部400利用拍摄的图像,进行对象物的姿势估计(S45)。另外,姿势估计(S45)只要是在拟合处理(S47)之前,就可以在步骤S42之后的任意定时进行。
接下来尺寸测量部400从多个基本形状的候补中选择一个基本形状(S46)。图17是这种选择处理的流程图。首先,尺寸测量部400根据由图像识别而得到的属性信息,对多个基本形状的候补设定优先级(S51)。接下来尺寸测量部400根据设定的优先级,将多个基本形状的候补显示给用户(S52)。例如,尺寸测量部400以优先级越高的基本形状的候补就越容易被用户选择的方式,显示多个基本形状的候补。或者,尺寸测量部400也可以在多个基本形状的候补中只显示优先级比预先规定的阈值高的候补。接下来尺寸测量部400在显示的多个基本形状的候补中,获得由用户选择的基本形状的信息(S53)。
接下来尺寸测量部400将选择的基本形状与三维模型进行拟合(S47)。接下来尺寸测量部400利用拟合后的基本形状,测量对象物的尺寸(S48)。
如上所述,在本实施方式所涉及的尺寸测量装置100,将基本形状拟合到对象物的三维模型,利用拟合后的基本形状,来测量对象物的尺寸。据此,能够容易测量对象物的任意位置的尺寸。例如,关于上述的高尔夫球包,能够正确测量除了把手部分的尺寸。
此外,在本实施方式中,用户从多个基本形状的候补中选择用于拟合的基本形状。据此,能够提高拟合的精度,因此能够提高尺寸测量的精度。此外,由于用户选择基本形状,从而能够提高基本形状的选择的精度,因此能够提高拟合的精度。
此外,利用图像识别等对候补设定优先级,从而能够提高用户的便利性,并且能够减少用户的选择错误,因此能够提高拟合的精度。
以下将要说明本公开的实施方式的变形例。尺寸测量装置100包括的多个处理部可以包括在多个装置中。例如,尺寸测量装置100可以不包括摄像部200,而是从外部的装置获得多个图像。并且,多个图像可以是由多个固定摄像机拍摄的多个图像。并且,多个图像可以是从一个位置用立体摄影机来拍摄的双视点的图像。并且,多个图像可以是由单一的摄像机一边移动一边拍摄的运动图像中包括的多个帧。此外,多个图像也可以是这些的组合。
此外,尺寸测量装置100可以不包括重构部403,而是从外部的装置获得三维模型。并且,关于三维模型不仅限于根据多个图像而生成的模型,也可以采用通过LiDAR(LightDetection And Ranging:激光雷达)等激光传感器来得到的点云数据。并且,尺寸测量装置100的功能的一部分可以包括在激光传感器等点云数据生成装置中。
此外,在上述的说明中记述了由用户选择了基本形状的例子,但是也可以是自动地选择基本形状。例如可以使用以下的方法。
(1)尺寸测量装置100也可以根据通过图像识别等得到的属性信息,选择与对象物的属性预先建立了对应的基本形状。
(2)尺寸测量装置100也可以检测尺寸测量装置100或对象物的位置,选择与检测出的位置预先建立了对应的基本形状。尺寸测量装置100可以具备GPS(GlobalPositioning System)等位置检测部。例如,尺寸测量装置100在尺寸测量装置100或对象物的位置在仓库内时,可以将对象物判断为是箱子,作为基本形状选择长方体。换言之,尺寸测量装置100在尺寸测量装置100或对象物的位置包括在预先规定的区域中的情况下,可以选择预先规定的基本形状。另外,一个区域可以与多个基本形状建立对应。换言之,尺寸测量装置100可以根据尺寸测量装置100或对象物的位置,从多个基本形状中筛选候补。在这种情况下,通过用户的选择或其他的方法,从与区域建立了对应的多个基本形状中选择将要使用的基本形状。
(3)属性信息的判断也可以采用图像识别以外的方法。例如,在收集配送物时,有事先登记配送物的信息(包括属性信息)的情况。在这样的情况下,可以根据该信息来判断对象物的属性。进一步,也可以在配送物的信息中登记有收集对象物的地址的情况下,在尺寸测量装置100的位置信息与该地址一致时,选择与配送物的属性信息对应的基本形状。
(4)尺寸测量装置100可以针对多个基本形状的每一个实际上进行拟合处理,根据该结果来最终决定将要使用的基本形状。具体而言,尺寸测量装置100可以针对各基本形状计算上述的三维模型与基本形状的误差的最小值(换言之,拟合后的三维模型与基本形状的误差)即拟合误差,在算出的多个拟合误差中选择具有最小的拟合误差的基本形状。并且,尺寸测量装置100也可以在上述的最小的拟合误差小于预先规定的阈值的情况下,选择具有该最小的拟合误差的基本形状,在该最小的拟合误差在阈值以上的情况下,判断为不存在符合三维模型的基本形状,显示不存在符合三维模型的基本形状。并且,误差也可以是最小二乘法误差。
(5)也可以将上述的方法进行组合。例如,通过上述(1)~(3)中的任一个方法来筛选基本形状的候补,用上述(4)的方法来最终决定将要使用的基本形状。
(6)也可以通过上述的任一个方法来决定多个候补的优先级,之后由用户进行选择。
(7)也可以由用户来设定是自动选择基本形状,还是由用户进行选择。或者通过自动选择能够筛选一个基本形状的情况下使用自动选择,在不能筛选一个基本形状的情况下,并用用户选择也可以。或者通过自动选择不能获得足够的精度的情况下,可以切换为用户选择。例如,通过自动选择而获得的拟合的误差大于预先规定的阈值的情况下,可以切换为用户选择。
(8)尺寸测量装置100在尺寸测量中,可以测量与对象物外接的立方体(基本形状)的尺寸。在这种情况下,尺寸测量装置100可以使对象物中的与立方体外接的部分优先于其他的部分,以与立方体外接的部分的拟合的结果即误差小于其他的部分的误差的方式来进行拟合。例如,作为误差而算出三维模型中的各点与基本形状的距离的总和的情况下,比起与其他的部分对应的距离,可以针对与外接于立体物的部分对应的距离乘以更大的权重系数。
如上所述,本实施方式所涉及的尺寸测量装置100进行图18所示的处理。尺寸测量装置100获得对象物的三维模型(S61),从作为三维形状的多个候补的多个基本形状中选择一个基本形状(S62),将选择的基本形状拟合到三维模型(S63),利用拟合后的基本形状对对象物的尺寸进行测量(S64)。据此,尺寸测量装置100将从对象物的三维形状的多个候补中选择的基本形状与三维模型进行拟合,利用拟合后的基本形状来进行尺寸测量,从而能够提高测量精度。
例如,图10以及图11所示,尺寸测量装置100使用于用户从多个基本形状中指定一个基本形状的显示内容显示到显示器(例如用户界面500包括的显示器),根据由用户经由输入界面(例如用户界面500包括的触摸屏、鼠标或键盘等)来指定的信息,从多个基本形状中选择一个基本形状。据此,尺寸测量装置100能够根据用户的选择,来选择拟合的基本形状,因此能够容易提高拟合的精度。因而,能够提高利用拟合后的基本形状的尺寸测量的精度。
例如,在图10中示出的显示内容是用于用户指定对象物的三维形状的内容,尺寸测量装置100从多个基本形状中选择由用户经由输入界面指定的三维形状的基本形状。据此,通过用户直接指定形状,从而能够高精度地选择适合拟合处理的基本形状。
例如,在图11中示出的显示内容是用于用户指定对象物的种类的内容,尺寸测量装置100从多个基本形状中选择与由用户经由输入界面指定的种类预先建立了对应的基本形状。据此,用户能够直观地进行选择操作,因此能够提高用户的利便性。
例如,尺寸测量装置100根据针对对象物的图像的图像识别,判断对象物的种类,并从多个基本形状中选择与判断出的种类预先建立了对应的基本形状。据此,尺寸测量装置100能够不依赖于用户的输入而自动地选择基本形状。
例如,尺寸测量装置100从多个基本形状中选择与对象物或尺寸测量装置所在的地点预先建立了对应的基本形状。据此,尺寸测量装置100能够不依赖于用户的输入而自动地选择基本形状。
例如,尺寸测量装置100根据将三维模型与多个基本形状的每一个进行了拟合的结果(例如误差),从多个基本形状中选择一个基本形状。据此,尺寸测量装置100能够不依赖于用户的输入而自动地选择基本形状。
例如,尺寸测量装置100对对象物的姿势进行判断,利用判断出的姿势,将三维模型与选择的基本形状进行拟合。例如,尺寸测量装置100将判断出的姿势作为限制条件或/和初始条件来使用。据此,尺寸测量装置100能够实现减少拟合的处理量或提高精度。
例如,尺寸测量装置100具备处理器以及存储器,处理器利用存储器进行上述处理。
以上对本公开的实施方式所涉及的尺寸测量装置等进行了说明,但本公开并不限定于上述实施方式。
此外,上述实施方式所涉及的尺寸测量装置等包括的各处理部,典型的是作为集成电路即LSI(Large Scale Integration:大规模集成电路)来实现。这些可以被分别制成一个芯片,也可以是其中的一部分或全部包括在一个芯片中。
此外,集成电路化不限于LSI,也可以用专用电路或者通用处理器来实现。也可以利用在LSI制造后可编程的FPGA(Field Programmable Gate Array:现场可编程门阵列)、或者可重建LSI内部的电路单元的连接或设定的可重构处理器。
另外,在上述各实施方式中,各个构成要素可以由专用的硬件构成,或者由执行适合各个构成要素的软件程序来实现。各个构成要素可以由CPU或者处理器等的程序执行部,读出并执行在硬盘或者半导体存储器等记录介质中记录的软件程序来实现。
此外,本公开可以作为由尺寸测量装置等来执行的尺寸测量方法等来实现。
此外,方框图中的功能块的分割是一例,可以将多个功能块作为一个功能块来实现,或者将一个功能块分割为多个,或者将一部分功能转移到其他功能块。此外,具有类似的功能的多个功能块的功能,可以由单一硬件或者软件并行或者分时地处理。
此外,流程图中的各个步骤执行的顺序是为了具体说明本公开而示出的例子,也可以是上述以外的顺序。并且,上述步骤的一部分可以与其他步骤同时(并行)地执行。
以上,关于1个或者多个方式所涉及的尺寸测量装置等根据实施方式进行了说明,但是本公开并非被这些实施方式所限定。在不超出本公开的主旨的范围内,将本领域技术人员所能够想到的各种变形执行于各实施方式而得到的方式、对不同的实施方式中的构成要素进行组合而构筑的方式均可以包括在本公开的一个或多个方式的范围内。
本公开可以适用于尺寸测量装置。
符号说明
10 对象物
11 用户
12 尺寸
20 三维模型
30,32 基本形状
31 属性
33 拟合后的基本形状
100 尺寸测量装置
200 摄像部
211 存储部
212 控制部
213 光学系统
214 图像传感器
300 控制部
301 摄像控制部
302 UI控制部
303 尺寸测量控制部
304 存储部
400 尺寸测量部
401 图像获得部
402 预处理部
403 重构部
404 属性信息提取部
405 姿势估计部
406 拟合部
407 测量部
500 用户界面

Claims (10)

1.一种尺寸测量装置,
所述尺寸测量装置具备:
处理器;以及
存储器,
所述处理器利用所述存储器,
获得对象物的三维模型,
从作为三维形状的多个候补的多个基本形状中选择一个基本形状,
将选择的所述基本形状拟合到所述三维模型,
利用拟合后的所述基本形状,对所述对象物的尺寸进行测量。
2.如权利要求1所述的尺寸测量装置,
所述处理器,使显示内容显示到显示器,所述显示内容是用于用户从所述多个基本形状中指定一个基本形状的内容,
所述处理器,根据由所述用户经由输入界面指定的信息,从所述多个基本形状中选择一个基本形状。
3.如权利要求2所述的尺寸测量装置,
所述显示内容是用于所述用户指定所述对象物的三维形状的内容,
所述处理器,从所述多个基本形状中选择由所述用户经由所述输入界面指定的三维形状的基本形状。
4.如权利要求2所述的尺寸测量装置,
所述显示内容是用于所述用户指定所述对象物的种类的内容,
所述处理器,从所述多个基本形状中选择与由所述用户经由所述输入界面指定的种类预先建立了对应的基本形状。
5.如权利要求1所述的尺寸测量装置,
所述处理器,根据针对所述对象物的图像的图像识别,来判断所述对象物的种类,
所述处理器,从所述多个基本形状中选择与判断出的所述种类预先建立了对应的基本形状。
6.如权利要求1所述的尺寸测量装置,
所述处理器,从所述多个基本形状中选择与所述对象物或所述尺寸测量装置所在的地点预先建立了对应的基本形状。
7.如权利要求1所述的尺寸测量装置,
所述处理器,根据所述三维模型与所述多个基本形状的每一个进行了拟合的结果,从所述多个基本形状中选择一个基本形状。
8.如权利要求1至7的任一项所述的尺寸测量装置,
所述处理器,对所述对象物的姿势进行判断,
所述处理器,利用判断出的所述姿势,将所述三维模型与选择的所述基本形状进行拟合。
9.一种尺寸测量方法,
在所述尺寸测量方法中,
获得对象物的三维模型,
从作为三维形状的多个候补的多个基本形状中选择一个基本形状,
将选择的所述基本形状拟合到所述三维模型,
利用拟合后的所述基本形状,对所述对象物的尺寸进行测量。
10.一种程序,是使计算机执行权利要求9所述的尺寸测量方法的程序。
CN202280059791.8A 2021-09-14 2022-08-19 尺寸测量装置、尺寸测量方法以及程序 Pending CN117957418A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2021-149474 2021-09-14
JP2021149474 2021-09-14
PCT/JP2022/031368 WO2023042604A1 (ja) 2021-09-14 2022-08-19 寸法計測装置、寸法計測方法及びプログラム

Publications (1)

Publication Number Publication Date
CN117957418A true CN117957418A (zh) 2024-04-30

Family

ID=85602790

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202280059791.8A Pending CN117957418A (zh) 2021-09-14 2022-08-19 尺寸测量装置、尺寸测量方法以及程序

Country Status (5)

Country Link
EP (1) EP4403872A1 (zh)
JP (1) JPWO2023042604A1 (zh)
CN (1) CN117957418A (zh)
TW (1) TW202311701A (zh)
WO (1) WO2023042604A1 (zh)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000146546A (ja) * 1998-11-09 2000-05-26 Hitachi Ltd 3次元モデル生成方法及び装置
JP6083857B2 (ja) * 2012-11-26 2017-02-22 Kddi株式会社 情報端末装置
WO2019130642A1 (ja) * 2017-12-27 2019-07-04 パナソニックIpマネジメント株式会社 形状識別装置及び宅配ボックス
JP7118535B2 (ja) 2018-06-08 2022-08-16 一般財団法人電力中央研究所 三次元形状の計測方法、計測装置、及び計測プログラム
JP2020187626A (ja) * 2019-05-16 2020-11-19 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP2021086432A (ja) * 2019-11-28 2021-06-03 キヤノン株式会社 情報処理装置、情報処理方法、コンピュータプログラム、計測装置、システムおよび物品の製造方法

Also Published As

Publication number Publication date
TW202311701A (zh) 2023-03-16
WO2023042604A1 (ja) 2023-03-23
EP4403872A1 (en) 2024-07-24
JPWO2023042604A1 (zh) 2023-03-23

Similar Documents

Publication Publication Date Title
US10893251B2 (en) Three-dimensional model generating device and three-dimensional model generating method
JP4915655B2 (ja) 自動追尾装置
JP6733267B2 (ja) 情報処理プログラム、情報処理方法および情報処理装置
JP6554169B2 (ja) 物体認識装置及び物体認識システム
JP4752918B2 (ja) 画像処理装置、画像照合方法、および、プログラム
JP5620990B2 (ja) 形状抽出方法及び装置、並びに寸法測定装置及び距離測定装置
CN110121882A (zh) 一种图像处理方法及装置
US9704255B2 (en) Three-dimensional shape measurement device, three-dimensional shape measurement method, and three-dimensional shape measurement program
CN111815707A (zh) 点云确定方法、点云筛选方法、装置、计算机设备
JP4042750B2 (ja) 画像処理装置、コンピュータプログラム、及び画像処理方法
CN110428372B (zh) 深度数据与2d激光数据融合方法及装置、存储介质
JP2016217944A (ja) 計測装置、および計測方法
JP4990876B2 (ja) 画像処理装置
JP2009211122A (ja) 画像処理装置およびオブジェクト推定プログラム。
US20160044295A1 (en) Three-dimensional shape measurement device, three-dimensional shape measurement method, and three-dimensional shape measurement program
JP2014142832A (ja) 画像処理装置、画像処理装置の制御方法、およびプログラム
JP2009300501A (ja) 撮像装置および地図媒体
CN117957418A (zh) 尺寸测量装置、尺寸测量方法以及程序
JP6127399B2 (ja) ステレオカメラ装置及びプログラム
CN115210529A (zh) 尺寸测量方法及尺寸测量装置
JP6704700B2 (ja) 画像処理装置およびその制御方法ならびにプログラム
US20230017607A1 (en) Imaging apparatus
JP7310835B2 (ja) カメラ情報算出装置、システム、カメラ情報算出方法およびプログラム
US10769805B2 (en) Method, image processing device, and system for generating depth map
KR20240131600A (ko) 센서를 이용한 객체 크기 추정 시스템 및 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination