CN117301078A - 一种机器手视觉校准方法及系统 - Google Patents
一种机器手视觉校准方法及系统 Download PDFInfo
- Publication number
- CN117301078A CN117301078A CN202311581165.8A CN202311581165A CN117301078A CN 117301078 A CN117301078 A CN 117301078A CN 202311581165 A CN202311581165 A CN 202311581165A CN 117301078 A CN117301078 A CN 117301078A
- Authority
- CN
- China
- Prior art keywords
- distortion
- data set
- real
- weight
- tangential
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 42
- 230000000007 visual effect Effects 0.000 claims abstract description 26
- 238000012937 correction Methods 0.000 claims description 23
- 238000010276 construction Methods 0.000 claims description 15
- 238000012545 processing Methods 0.000 claims description 13
- 238000013527 convolutional neural network Methods 0.000 claims description 12
- 238000012549 training Methods 0.000 claims description 12
- 238000013500 data storage Methods 0.000 claims description 10
- 230000008439 repair process Effects 0.000 claims description 8
- 238000013528 artificial neural network Methods 0.000 claims description 6
- 238000012360 testing method Methods 0.000 claims 1
- 230000008569 process Effects 0.000 description 7
- 238000012795 verification Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 230000014509 gene expression Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000001737 promoting effect Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1679—Programme controls characterised by the tasks executed
- B25J9/1692—Calibration of manipulator
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
- B25J9/161—Hardware, e.g. neural networks, fuzzy logic, interfaces, processor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及机器视觉校准技术领域,尤其是涉及一种机器手视觉校准方法及系统,所述方法包括如下步骤:构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,并实时采集被测目标的目标图像;根据第一数据集、第二数据集和第三数据集计算径向畸变权重和切向畸变权重;利用第三数据集、径向畸变权重和切向畸变权重建立视觉校准数据库;基于视觉校准数据库对目标图像的实时径向畸变权重和实时切向畸变权重进行预测;根据第三数据集、实时径向畸变权重和实时切向畸变权重确定被测目标的实际位置。本发明同时考虑了径向畸变和切向畸变对目标图像的影响,与现有的机器手视觉校准方法相比不仅具有更高的准确性和可靠性,而且简单易行,便于推广。
Description
技术领域
本发明涉及机器视觉校准技术领域,尤其是涉及一种机器手视觉校准方法及系统。
背景技术
机器手因其操作的灵活性,在仓储物流行业得到了广泛的应用。在机器手的组成部分中,视觉系统是机械臂的关键部分之一,作为机械臂的眼睛,视觉系统性能的好坏直接决定着机械臂抓取、移动的准确性。然而,在机器手的视觉系统中,由于相机镜头加工工艺和相机轴向与被测对象所在平面不垂直会导致机器手视觉系统获取的图像产生畸变,主要包括径向畸变和切向畸变,进而使机器手不能准确识别被测对象的具体位置,因此必须对机器手进行视觉校准。
现有技术主要是通过建立畸变模型来找出图像中像素点与真实世界坐标系之间的映射关系,进而实现对机器手的视觉校准。然而视觉系统获取的图像的畸变过程往往十分复杂,因此图像的畸变模型的求解也较为困难,求解畸变模型的过程中往往伴随着大量复杂的计算,如果想要简化计算就只能忽略径向畸变和切向畸变中的部分畸变量,但这又降低了非线性畸变模型的准确性和可靠性,进而降低了对机器手进行视觉校准的准确性和可靠性。
发明内容
针对现有技术中的缺陷,本发明提供一种机器手视觉校准方法及系统。
为了实现上述目的,第一方面,本发明提供了一种机器手视觉校准方法,所述方法包括如下步骤:构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,并实时采集被测目标的目标图像;根据所述第一数据集、所述第二数据集和所述第三数据集,使用畸变权重模型计算径向畸变权重和切向畸变权重;利用所述第三数据集、所述径向畸变权重和所述切向畸变权重建立视觉校准数据库;基于所述视觉校准数据库对所述目标图像的实时径向畸变权重和实时切向畸变权重进行预测;根据所述第三数据集、所述实时径向畸变权重、所述实时切向畸变权重和校正模型确定所述被测目标的实际位置。本发明同时考虑了径向畸变和切向畸变对目标图像的影响,与现有的机器手视觉校准方法相比不仅具有更高的准确性和可靠性,而且简单易行,便于推广。
可选地,所述构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,并实时采集被测目标的目标图像包括如下步骤:
获取畸变模板,并确定径向畸变模型和切向畸变模型;
设定多组所述径向畸变模型中的第一畸变系数,并通过径向畸变模型对所述畸变模板进行模拟来获取每组所述第一畸变系数对应的径向畸变图像,进而建立所述第一数据集;
设定多组所述切向畸变模型中的第二畸变系数,并通过切向畸变模型对所述畸变模板进行模拟来获取每组所述第二畸变系数对应的切向畸变图像,进而建立所述第二数据集;
将所述径向畸变模型和所述切向畸变模型结合为组合畸变模型,同时将每一组所述第一畸变系数和所述第二畸变系数一一组合构成多组组合畸变系数,并通过组合畸变模型对所述畸变模板进行模拟来获取每组所述组合畸变系数对应的组合畸变图像,进而建立所述第三数据集。
进一步的,通过调整径向畸变模型、切向畸变模型和组合畸变模型中的畸变系数来获取不同的畸变图像,进而建立不同的数据集是容易实现的,同时也为后续计算相应的畸变权重提供可靠的数据基础。
可选地,所述根据所述第一数据集、所述第二数据集和所述第三数据集,使用畸变权重模型计算径向畸变权重和切向畸变权重包括如下步骤:
在所述第一数据集和所述第三数据集中,计算相同所述第一畸变系数所对应的径向畸变图像与组合畸变图像的第一图相似度;
在所述第二数据集和所述第三数据集中,计算相同所述第二畸变系数所对应的切向畸变图像与组合畸变图像的第二图相似度;
根据所述第一图相似度和所述第二图相似度,使用所述畸变权重模型计算所述径向畸变权重和所述切向畸变权重。
进一步的,计算径向畸变权重和切向畸变权重可以为后续给组合畸变模型分配准确的畸变系数提供可靠的数据基础,进而提高获取的被测目标实际位置的准确性和可靠性。
可选地,所述畸变权重模型满足如下关系:
,
其中,为所述径向畸变权重,k为所述组合畸变系数里第一畸变系数中最大畸变系数与最小畸变系数的比值,s为所述第一图相似度,/>表示取均值,/>为所述第一图相似度的集合,/>为所述第二图相似度的集合,/>为所述切向畸变权重,K为所述组合畸变系数里第二畸变系数中最大畸变系数与最小畸变系数的比值,S为所述第二图相似度。
可选地,所述基于所述视觉校准数据库对所述目标图像的实时径向畸变权重和实时切向畸变权重进行预测包括如下步骤:
以所述组合畸变图像为输入,所述径向畸变权重和所述切向畸变权重为输出建立第一卷积神经网络;
使用所述视觉校准数据库中的组合畸变图像、径向畸变权重和切向畸变权重完成对所述第一卷积神经网络的训练,得到第一预测模型;
将所述目标图像输入所述第一预测模型,进而预测所述目标图像的实时径向畸变权重和实时切向畸变权重。
进一步的,获取实时径向畸变权重和实时切向畸变权重可以对后续得到的组合畸变系数预测值进行修正,进而提高视觉校准的准确性。
可选地,所述根据所述第三数据集、所述实时径向畸变权重、所述实时切向畸变权重和校正模型确定所述被测目标的实际位置包括如下步骤:
根据所述第三数据集建立第二预测模型,并使用所述第二预测模型获取所述目标图像的组合畸变系数预测值;
使用所述实时径向畸变权重、所述实时切向畸变权重和所述校正模型对所述组合畸变系数预测值进行修正;
将修正得到的结果带入所述组合畸变模型中来对所述目标图像进行反演得到修复图像,并利用所述修复图像确定所述被测目标的实际位置。
可选地,所述根据所述第三数据集建立第二预测模型,并使用所述第二预测模型获取所述目标图像的组合畸变系数预测值包括如下步骤:
以所述组合畸变图像为输入,所述组合畸变系数为输出建立第二卷积神经网络;
使用所述第三数据集中的组合畸变图像和组合畸变系数完成对所述第二卷积神经网络的训练,进而得到第二预测模型;
将所述目标图像输入所述第二预测模型,进而预测所述目标图像的组合畸变系数预测值。
进一步的,使用第二预测模型来实现对组合畸变系数的预测,在避免建立复杂的畸变模型的同时还可以将多种畸变量考虑在内,这不仅简化了对机器手进行视觉校准的过程,而且还能提高视觉校准的准确性。
可选地,所述使用所述实时径向畸变权重、所述实时切向畸变权重和所述校正模型对所述组合畸变系数预测值进行修正包括如下步骤:
使用所述实时径向畸变权重和所述校正模型对所述组合畸变系数预测值中的第一畸变系数预测值进行修正,得到第一畸变系数准确值;
利用所述实时切向畸变权重和所述校正模型对所述组合畸变系数预测值中的第二畸变系数预测值进行修正,得到第二畸变系数准确值。
进一步的,使用实时径向畸变权重和实时切向畸变权重对组合畸变系数预测值进行修正可以提高组合畸变系数的准确性,进而进一步提高视觉校准的准确性。
可选地,所述校正模型满足如下关系:
其中,、/>和/>为所述第一畸变系数准确值,/>和/>为所述第二畸变系数准确值,/>为所述径向畸变权重,/>为所述切向畸变权重,/>、/>和/>为所述第一畸变系数预测值,/>和/>为所述第二畸变系数预测值。
综上所述,本发明提供的方法利用第二预测模型和建立的视觉校准数据库来对组合畸变模型中的各个畸变参数进行预测,在避免建立复杂的畸变模型的同时还可以将多种畸变量考虑在内,不仅简化了对机器手进行视觉校准的过程,而且还能提高视觉校准的准确性。同时,本发明基于视觉校准数据库对目标图像的实时径向畸变权重和实时切向畸变权重进行预测,并利用实时径向畸变权重和实时切向畸变权重对组合畸变系数预测值进行修正,进而可以在确定组合畸变模型的情况下对目标图像进行反演以确定被测目标的实际位置,进一步提高视觉校准的准确性。因此本发明与现有的机器手视觉校准方法相比不仅具有更高的准确性和可靠性,而且简单易行,便于推广。
第二方面,发明提供了一种机器手视觉校准系统,所述系统使用本发明提供的一种机器手视觉校准方法,所述系统包括:数据构建与采集模块,所述数据构建与采集模块用于构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,并实时采集被测目标的目标图像;数据处理模块,所述数据处理模块用于根据所述第一数据集、所述第二数据集和所述第三数据集,使用畸变权重模型计算径向畸变权重和切向畸变权重;利用所述第三数据集、所述径向畸变权重和所述切向畸变权重建立视觉校准数据库;基于所述视觉校准数据库对所述目标图像的实时径向畸变权重和实时切向畸变权重进行预测;根据所述第三数据集、所述实时径向畸变权重、所述实时切向畸变权重和校正模型确定所述被测目标的实际位置;数据储存模块,所述数据储存模块用于储存所述数据构建与采集模块和所述数据处理模块中采集和生成的数据;数据输出模块,所述数据输出模块用于输出被测目标的实际位置。
进一步的,本发明提供的系统不仅与本发明提供的方法具有相同的优点,而且能够提升机器手视觉校准的效率,并有利于促进机器手向更加智能化的方向发展。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它相关的附图。
图1为本发明实施例的一种机器手视觉校准方法的流程示意图;
图2为本发明实施例的一种机器手视觉校准系统的框架示意图。
具体实施方式
下面将详细描述本发明的具体实施例,应当注意,这里描述的实施例只用于举例说明,并不用于限制本发明。在以下描述中,为了提供对本发明的透彻理解,阐述了大量特定细节。然而,对于本领域普通技术人员显而易见的是:不必采用这些特定细节来实行本发明。在其他实例中,为了避免混淆本发明,未具体描述公知的电路,软件或方法。
在整个说明书中,对“一个实施例”、“实施例”、“一个示例”或“示例”的提及意味着:结合该实施例或示例描述的特定特征、结构或特性被包含在本发明至少一个实施例中。因此,在整个说明书的各个地方出现的短语“在一个实施例中”、“在实施例中”、“一个示例”或“示例”不一定都指同一实施例或示例。此外,可以以任何适当的组合和、或子组合将特定的特征、结构或特性组合在一个或多个实施例或示例中。此外,本领域普通技术人员应当理解,在此提供的示图都是为了说明的目的,并且示图不一定是按比例绘制的。
需要提前说明的是,在一个可选地实施例当中,除了做出独立的说明之外,其它的在所有公式中出现的相同的符号或字母带表的含义和数值相同。
在一个可选地实施例当中,请参见图1,本发明提供了一种机器手视觉校准方法,所述方法包括如下步骤:
S1、构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,并实时采集被测目标的目标图像。
其中,步骤S1具体包括如下步骤:
S11、获取畸变模板,并确定径向畸变模型和切向畸变模型。
具体的,在本实施例中,畸变模板为没有发生任何畸变的清晰图像,该图像是使用AI绘画生成的彩色图像。径向畸变模型和切向畸变模型为现有技术,为了便于理解后续的说明,本实施例依次给出了径向畸变模型和切向畸变模型的表达式,具体的表达式如下:
其中,和/>分别为畸变后的像素点横坐标和纵坐标,/>和/>分别为未发生畸变时的像素点横坐标和纵坐标,/>、/>和/>为第一畸变系数,/>和/>为第二畸变系数,r为一个代数且/>。
进一步的,使用AI绘画生成的彩色图像不会发生畸变,这为后续获取准确可靠的第一数据集、第二数据集和第三数据集提供了准确可靠的数据基础,有利于获取被测目标的实际位置。在其他可选地实施例中,也可以通过其他方式来获取畸变模板。
S12、设定多组所述径向畸变模型中的第一畸变系数,并通过径向畸变模型对所述畸变模板进行模拟来获取每组所述第一畸变系数对应的径向畸变图像,进而建立所述第一数据集。
具体的,在本实施例中,共设定100组第一畸变系数,然后依次将每一组第一畸变系数带入径向畸变模型中,进而基于径向畸变模型和畸变模板使用matlab模拟出100张不同的径向畸变图像,将每一组第一畸变系数及其对应的径向畸变图像作为一组径向畸变数据,因此共可获取100组径向畸变数据,并利用这100组径向畸变数据建立第一数据集。为了便于后续说明,本实施例还使用1至100的正整数依次对100组第一畸变系数进行编号。
进一步的,在确定了准确可靠的畸变模板的情况下,通过调整第一畸变系数来使用matlab模拟出径向畸变图像,进而建立第一数据集是易于实现的,能够为获取被测目标的实际位置提供准确可靠的数据基础。此外,基于径向畸变模型和畸变模板使用matlab模拟出径向畸变图像为现有技术,在此就不做详细说明。
S13、设定多组所述切向畸变模型中的第二畸变系数,并通过切向畸变模型对所述畸变模板进行模拟来获取每组所述第二畸变系数对应的切向畸变图像,进而建立所述第二数据集。
具体的,在本实施例中,共设定100组第二畸变系数,然后依次将每一组第二畸变系数带入切向畸变模型中,进而基于切向畸变模型和畸变模板使用matlab模拟出100张不同的切向畸变图像,将每一组第二畸变系数及其对应的切向畸变图像作为一组切向畸变数据,因此共可获取100组切向畸变数据,并利用这100组切向畸变数据建立第二数据集。为了便于后续说明,本实施例还使用1至100的正整数依次对100组第二畸变系数进行编号。
进一步的,在确定了准确可靠的畸变模板的情况下,通过调整第二畸变系数来使用matlab模拟出切向畸变图像,进而建立第二数据集是易于实现的,能够为获取被测目标的实际位置提供准确可靠的数据基础。基于切向畸变模型和畸变模板使用matlab模拟出切向畸变图像为现有技术,在此就不做详细说明。
S14、将所述径向畸变模型和所述切向畸变模型结合为组合畸变模型,同时将每一组所述第一畸变系数和所述第二畸变系数一一组合构成多组组合畸变系数,并通过组合畸变模型对所述畸变模板进行模拟来获取每组所述组合畸变系数对应的组合畸变图像,进而建立所述第三数据集。
具体的,在本实施例中,组合畸变模型满足如下关系:
将编号相同的第一畸变系数和第二畸变系数组合为一组组合畸变系数,且组合畸变系数的编号与组成它的第一畸变系数和第二畸变系数的编号相同,共可得到100组组合畸变系数。每一组组合畸变系数都包含了一组第一畸变系数和一组第二畸变系数,从组合畸变模型中也可以看出这一点。
进一步的,依次将每一组组合畸变系数带入组合畸变模型中,进而基于组合畸变模型和畸变模板使用matlab模拟出100张不同的组合畸变图像,将每一组组合畸变系数及其对应的组合畸变图像作为一组组合畸变数据,因此共可获取100组组合畸变数据,并利用这100组组合畸变数据建立第三数据集。
进一步的,在确定了准确可靠的畸变模板的情况下,通过调整组合畸变系数来使用matlab模拟出组合畸变图像,进而建立第三数据集是易于实现的,能够为获取被测目标的实际位置提供准确可靠的数据基础。基于组合畸变模型和畸变模板使用matlab模拟出组合畸变图像为现有技术,在此就不做详细说明。
S2、根据所述第一数据集、所述第二数据集和所述第三数据集,使用畸变权重模型计算径向畸变权重和切向畸变权重。
其中,步骤S2具体包括如下步骤:
S21、在所述第一数据集和所述第三数据集中,计算相同所述第一畸变系数所对应的径向畸变图像与组合畸变图像的第一图相似度。
具体的,在本实施例中,由于组合畸变系数的编号与组成它的第一畸变系数和第二畸变系数的编号相同,因此该步骤就是在第一畸变系数与组合畸变系数编号相同的情况下,计算第一畸变系数所对应的径向畸变图像与组合畸变图像的图相似度,即第一图相似度,且共可得到100个第一图相似度。
进一步的,图相似度的计算为现有技术,在此就不详细说明。
S22、在所述第二数据集和所述第三数据集中,计算相同所述第二畸变系数所对应的切向畸变图像与组合畸变图像的第二图相似度。
具体的,在本实施例中,由于组合畸变系数的编号与组成它的第一畸变系数和第二畸变系数的编号相同,因此该步骤就是在第二畸变系数与组合畸变系数编号相同的情况下,计算第二畸变系数所对应的切向畸变图像与组合畸变图像的图相似度,即第二图相似度,且共可得到100个第二图相似度。
进一步的,图相似度的计算为现有技术,在此就不详细说明。
S23、根据所述第一图相似度和所述第二图相似度,使用所述畸变权重模型计算所述径向畸变权重和所述切向畸变权重。
具体的,在本实施例中,畸变权重模型满足如下关系:
,
其中,为径向畸变权重,k为组合畸变系数里第一畸变系数中最大畸变系数与最小畸变系数的比值,s为第一图相似度,/>表示取均值,/>为第一图相似度的集合,/>为第二图相似度的集合,/>为切向畸变权重,K为组合畸变系数里第二畸变系数中最大畸变系数与最小畸变系数的比值,S为第二图相似度。
进一步的,结合图相似度计算得出的径向畸变权重和切向畸变权重能够从客观角度上准确反映径向畸变和切向畸变各自对组合畸变图像产生的影响大小,因此径向畸变权重和切向畸变权重可以为后续给组合畸变模型分配准确的畸变系数提供可靠的数据基础,进而提高获取的被测目标实际位置的准确性和可靠性。
S3、利用所述第三数据集、所述径向畸变权重和所述切向畸变权重建立视觉校准数据库。
具体的,在本实施例中,将径向畸变权重和切向畸变权重补充至相应的组合畸变数据中,即可得到视觉校准数据库。
S4、基于所述视觉校准数据库对所述目标图像的实时径向畸变权重和实时切向畸变权重进行预测。
其中,步骤S4具体包括如下步骤:
S41、以所述组合畸变图像为输入,所述径向畸变权重和所述切向畸变权重为输出建立第一卷积神经网络。
具体的,在本实施例中,卷积神经网络的建立为现有技术,在此就不做详细说明。
S42、使用所述视觉校准数据库中的组合畸变图像、径向畸变权重和切向畸变权重完成对所述第一卷积神经网络的训练,得到第一预测模型。
具体的,在本实施例中,选择视觉校准数据库里70组数据中的组合畸变图像、径向畸变权重和切向畸变权重作为训练集,将剩下30组数据中的组合畸变图像、径向畸变权重和切向畸变权重作为验证集,进而完成对第一卷积神经网络的训练和验证,得到第一预测模型。
进一步的,卷积神经网络的训练和验证为现有技术,在此就不做详细说明。
S43、将所述目标图像输入所述第一预测模型,进而预测所述目标图像的实时径向畸变权重和实时切向畸变权重。
具体的,在本实施例中,获取实时径向畸变权重和实时切向畸变权重可以对后续得到的组合畸变系数预测值进行修正,进而提高视觉校准的准确性。
S5、根据所述第三数据集、所述实时径向畸变权重、所述实时切向畸变权重和校正模型确定所述被测目标的实际位置。
其中,步骤S5具体包括如下步骤:
S51、根据所述第三数据集建立第二预测模型,并使用所述第二预测模型获取所述目标图像的组合畸变系数预测值。
其中,步骤S51具体又包括如下步骤:
S511、以所述组合畸变图像为输入,所述组合畸变系数为输出建立第二卷积神经网络。
具体的,在本实施例中,卷积神经网络的建立为现有技术,在此就不做详细说明。
S512、使用所述第三数据集中的组合畸变图像和组合畸变系数完成对所述第二卷积神经网络的训练,进而得到第二预测模型。
具体的,在本实施例中,选择第三数据集里70组组合畸变数据作为训练集,将剩下30组组合畸变数据作为验证集,进而完成对第一卷积神经网络的训练和验证,得到第二预测模型。
进一步的,卷积神经网络的训练和验证为现有技术,在此就不做详细说明。
S513、将所述目标图像输入所述第二预测模型,进而预测所述目标图像的组合畸变系数预测值。
具体的,在本实施例中,使用第二预测模型来实现对组合畸变系数的预测,在避免建立复杂的畸变模型的同时还可以将多种畸变量考虑在内,这不仅简化了对机器手进行视觉校准的过程,而且还能提高视觉校准的准确性。
S52、使用所述实时径向畸变权重、所述实时切向畸变权重和所述校正模型对所述组合畸变系数预测值进行修正。
其中,步骤S52具体又包括如下步骤:
S521、使用所述实时径向畸变权重和所述校正模型对所述组合畸变系数预测值中的第一畸变系数预测值进行修正,得到第一畸变系数准确值。
S522、利用所述实时切向畸变权重和所述校正模型对所述组合畸变系数预测值中的第二畸变系数预测值进行修正,得到第二畸变系数准确值。
具体的,在本实施例中,校正模型满足如下关系:
其中,、/>和/>为第一畸变系数准确值,/>和/>为第二畸变系数准确值,/>为径向畸变权重,/>为切向畸变权重,/>、/>和/>为第一畸变系数预测值,/>和/>为第二畸变系数预测值。将步骤S43中得到的实时径向畸变权重和实时切向畸变权重以及步骤S513得到的组合畸变系数预测值带入此关系式中,即可计算出第一畸变系数准确值和第二畸变系数准确值。
进一步的,通过第二预测模型预测的组合畸变系数预测值已经能够直接用来对目标图像进行修复,但是组合畸变系数预测值与真实的组合畸变系数或大或小的存在一些误差,因此往往达不到理想的修复效果。为了进一步提升对目标图像的修复效果,使用实时径向畸变权重和实时切向畸变权重对组合畸变系数预测值进行修正,也就是分别考虑径向畸变和切向畸变对目标图像的影响大小来对组合畸变系数预测值中的各个第一畸变系数预测值和第二畸变系数预测值重新进行数值分配,进而得到更加合理的第一畸变系数和第二畸变系数,即第一畸变系数准确值和第二畸变系数准确值,这样可以提高组合畸变系数的准确性,进而进一步提高视觉校准的准确性。
S53、将修正得到的结果带入所述组合畸变模型中来对所述目标图像进行反演得到修复图像,并利用所述修复图像确定所述被测目标的实际位置。
具体的,在本实施例中,将第一畸变系数准确值和第二畸变系数准确值带入组合畸变模型中,这样得到的组合畸变模型就能够准确反映目标图像的畸变过程。由于目标图像上各个像素点坐标是已知的,也就是图像发生畸变后的像素点坐标是已知的,因此就可以在已知第一畸变系数准确值和第二畸变系数准确值的情况下将目标图像上各个像素点坐标带入组合畸变模型中,进而计算出发生畸变前目标图像上各个像素点的像素点坐标/>,并进一步还原出目标图像没有发生畸变时的样子,即修复图像,利用该修复图像即可实现机器手视觉校正。
进一步的,利用修复图像确定被测目标的实际位置。利用修复图像确定被测目标的实际位置涉及像素点坐标系到世界坐标系的变换,由于此为现有技术,故而在此就不详细说明。
需要说明的是,在一些情况下,在说明书中记载的动作可以按照不同的顺序来执行并且仍然可以实现期望的结果,在本实施例当中,所给出的步骤顺序仅仅是为了使实施例看起来更加清晰明了,方便说明,而非对其限制。
在一个可选地实施例中,请参见图2,本发明还提供了一种机器手视觉校准系统,所述系统使用本发明提供的一种机器手视觉校准方法,所述系统包括数据构建与采集模块A1、数据处理模块A2、数据储存模块A3和数据输出模块A4。
所述数据构建与采集模块A1用于构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,并实时采集被测目标的目标图像。
具体的,在本实施例中,数据构建与采集模块A1具体执行步骤S1所述的内容,在此就不做赘述。
进一步的,在其他可选地实施例中,数据构建与采集模块A1还可以具体划分为数据构建子模块与数据采集子模块,数据构建子模块用于构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,数据采集子模块用于实时采集被测目标的目标图像。
所述数据处理模块A2用于根据所述第一数据集、所述第二数据集和所述第三数据集,使用畸变权重模型计算径向畸变权重和切向畸变权重;利用所述第三数据集、所述径向畸变权重和所述切向畸变权重建立视觉校准数据库;基于所述视觉校准数据库对所述目标图像的实时径向畸变权重和实时切向畸变权重进行预测;根据所述第三数据集、所述实时径向畸变权重、所述实时切向畸变权重和校正模型确定所述被测目标的实际位置。
具体的,在本实施例中,数据处理模块A2通过数据线与数据构建与采集模块A1相连接,数据处理模块A2具体执行步骤S2至S5所述的内容,在此就不做赘述。
进一步的,在其他可选地实施例中,数据处理模块A2还可以通过其他方式与数据构建与采集模块A1相连接。
所述数据储存模块A3用于储存所述数据构建与采集模块A1和所述数据处理模块A2中采集和生成的数据。
具体的,在本实施例中,数据储存模块A3通过数据线分别与数据构建与采集模块A1和数据处理模块A2相连接,数据储存模块A3中储存的数据包括第一数据集、第二数据集、第三数据集、被测目标的目标图像、视觉校准数据库、实时径向畸变权重、实时切向畸变权重以及被测目标的实际位置。
进一步的,在其他可选地实施例中,数据储存模块A3还可以通过其他方式与数据构建与采集模块A1和数据处理模块A2相连接。
所述数据输出模块A4用于输出被测目标的实际位置。
具体的,在本实施例中,数据输出模块A4通过数据线与数据储存模块A3相连接。
进一步的,在其他可选地实施例中,数据输出模块A4也可以和数据储存模块A3集成在一起,而且数据输出模块A4也可以输出数据储存模块A3中的其他数据,例如第一数据集、第二数据集和第三数据集等。
综上所述,本发明通过去除目标图像的畸变来实现机器手视觉校准,进而得到被测目标准确的实际位置。本发明提供的方法利用第二预测模型和建立的视觉校准数据库来对组合畸变模型中的各个畸变参数进行预测,在避免建立复杂的畸变模型的同时还可以将多种畸变量考虑在内,不仅简化了对机器手进行视觉校准的过程,而且还能提高视觉校准的准确性。同时,本发明基于视觉校准数据库对目标图像的实时径向畸变权重和实时切向畸变权重进行预测,并利用实时径向畸变权重和实时切向畸变权重对组合畸变系数预测值进行修正,进而可以在确定组合畸变模型的情况下对目标图像进行反演以确定被测目标的实际位置,进一步提高视觉校准的准确性。因此本发明与现有的机器手视觉校准方法相比不仅具有更高的准确性和可靠性,而且简单易行,便于推广。此外,本发明提供的系统不仅与本发明提供的方法具有相同的优点,而且能够提升机器手视觉校准的效率,并有利于促进机器手向更加智能化的方向发展。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围,其均应涵盖在本发明的权利要求和说明书的范围当中。
Claims (10)
1.一种机器手视觉校准方法,其特征在于,包括如下步骤:
构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,并实时采集被测目标的目标图像;
根据所述第一数据集、所述第二数据集和所述第三数据集,使用畸变权重模型计算径向畸变权重和切向畸变权重;
利用所述第三数据集、所述径向畸变权重和所述切向畸变权重建立视觉校准数据库;
基于所述视觉校准数据库对所述目标图像的实时径向畸变权重和实时切向畸变权重进行预测;
根据所述第三数据集、所述实时径向畸变权重、所述实时切向畸变权重和校正模型确定所述被测目标的实际位置。
2.根据权利要求1所述的一种机器手视觉校准方法,其特征在于,所述构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,并实时采集被测目标的目标图像包括如下步骤:
获取畸变模板,并确定径向畸变模型和切向畸变模型;
设定多组所述径向畸变模型中的第一畸变系数,并通过径向畸变模型对所述畸变模板进行模拟来获取每组所述第一畸变系数对应的径向畸变图像,进而建立所述第一数据集;
设定多组所述切向畸变模型中的第二畸变系数,并通过切向畸变模型对所述畸变模板进行模拟来获取每组所述第二畸变系数对应的切向畸变图像,进而建立所述第二数据集;
将所述径向畸变模型和所述切向畸变模型结合为组合畸变模型,同时将每一组所述第一畸变系数和所述第二畸变系数一一组合构成多组组合畸变系数,并通过组合畸变模型对所述畸变模板进行模拟来获取每组所述组合畸变系数对应的组合畸变图像,进而建立所述第三数据集。
3.根据权利要求2所述的一种机器手视觉校准方法,其特征在于,所述根据所述第一数据集、所述第二数据集和所述第三数据集,使用畸变权重模型计算径向畸变权重和切向畸变权重包括如下步骤:
在所述第一数据集和所述第三数据集中,计算相同所述第一畸变系数所对应的径向畸变图像与组合畸变图像的第一图相似度;
在所述第二数据集和所述第三数据集中,计算相同所述第二畸变系数所对应的切向畸变图像与组合畸变图像的第二图相似度;
根据所述第一图相似度和所述第二图相似度,使用所述畸变权重模型计算所述径向畸变权重和所述切向畸变权重。
4.根据权利要求3所述的一种机器手视觉校准方法,其特征在于,所述畸变权重模型满足如下关系:
,
其中,为所述径向畸变权重,k为所述组合畸变系数里第一畸变系数中最大畸变系数与最小畸变系数的比值,s为所述第一图相似度,/>表示取均值,/>为所述第一图相似度的集合,/>为所述第二图相似度的集合,/>为所述切向畸变权重,K为所述组合畸变系数里第二畸变系数中最大畸变系数与最小畸变系数的比值,S为所述第二图相似度。
5.根据权利要求3所述的一种机器手视觉校准方法,其特征在于,所述基于所述视觉校准数据库对所述目标图像的实时径向畸变权重和实时切向畸变权重进行预测包括如下步骤:
以所述组合畸变图像为输入,所述径向畸变权重和所述切向畸变权重为输出建立第一卷积神经网络;
使用所述视觉校准数据库中的组合畸变图像、径向畸变权重和切向畸变权重完成对所述第一卷积神经网络的训练,得到第一预测模型;
将所述目标图像输入所述第一预测模型,进而预测所述目标图像的实时径向畸变权重和实时切向畸变权重。
6.根据权利要求2所述的一种机器手视觉校准方法,其特征在于,所述根据所述第三数据集、所述实时径向畸变权重、所述实时切向畸变权重和校正模型确定所述被测目标的实际位置包括如下步骤:
根据所述第三数据集建立第二预测模型,并使用所述第二预测模型获取所述目标图像的组合畸变系数预测值;
使用所述实时径向畸变权重、所述实时切向畸变权重和所述校正模型对所述组合畸变系数预测值进行修正;
将修正得到的结果带入所述组合畸变模型中来对所述目标图像进行反演得到修复图像,并利用所述修复图像确定所述被测目标的实际位置。
7.根据权利要求6所述的一种机器手视觉校准方法,其特征在于,所述根据所述第三数据集建立第二预测模型,并使用所述第二预测模型获取所述目标图像的组合畸变系数预测值包括如下步骤:
以所述组合畸变图像为输入,所述组合畸变系数为输出建立第二卷积神经网络;
使用所述第三数据集中的组合畸变图像和组合畸变系数完成对所述第二卷积神经网络的训练,进而得到第二预测模型;
将所述目标图像输入所述第二预测模型,进而预测所述目标图像的组合畸变系数预测值。
8.根据权利要求6所述的一种机器手视觉校准方法,其特征在于,所述使用所述实时径向畸变权重、所述实时切向畸变权重和所述校正模型对所述组合畸变系数预测值进行修正包括如下步骤:
使用所述实时径向畸变权重和所述校正模型对所述组合畸变系数预测值中的第一畸变系数预测值进行修正,得到第一畸变系数准确值;
利用所述实时切向畸变权重和所述校正模型对所述组合畸变系数预测值中的第二畸变系数预测值进行修正,得到第二畸变系数准确值。
9.根据权利要求8所述的一种机器手视觉校准方法,其特征在于,所述校正模型满足如下关系:
,
其中,、/>和/>为所述第一畸变系数准确值,/>和/>为所述第二畸变系数准确值,为所述径向畸变权重,/>为所述切向畸变权重,/>、/>和/>为所述第一畸变系数预测值,/>和/>为所述第二畸变系数预测值。
10.一种机器手视觉校准系统,所述系统使用权利要求1-9任意一项所述的一种机器手视觉校准方法,其特征在于,包括:
数据构建与采集模块,所述数据构建与采集模块用于构建用于机器手视觉校准的第一数据集、第二数据集和第三数据集,并实时采集被测目标的目标图像;
数据处理模块,所述数据处理模块用于根据所述第一数据集、所述第二数据集和所述第三数据集,使用畸变权重模型计算径向畸变权重和切向畸变权重;利用所述第三数据集、所述径向畸变权重和所述切向畸变权重建立视觉校准数据库;基于所述视觉校准数据库对所述目标图像的实时径向畸变权重和实时切向畸变权重进行预测;根据所述第三数据集、所述实时径向畸变权重、所述实时切向畸变权重和校正模型确定所述被测目标的实际位置;
数据储存模块,所述数据储存模块用于储存所述数据构建与采集模块和所述数据处理模块中采集和生成的数据;
数据输出模块,所述数据输出模块用于输出被测目标的实际位置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311581165.8A CN117301078B (zh) | 2023-11-24 | 2023-11-24 | 一种机器手视觉校准方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311581165.8A CN117301078B (zh) | 2023-11-24 | 2023-11-24 | 一种机器手视觉校准方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117301078A true CN117301078A (zh) | 2023-12-29 |
CN117301078B CN117301078B (zh) | 2024-03-12 |
Family
ID=89285079
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311581165.8A Active CN117301078B (zh) | 2023-11-24 | 2023-11-24 | 一种机器手视觉校准方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117301078B (zh) |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030035100A1 (en) * | 2001-08-02 | 2003-02-20 | Jerry Dimsdale | Automated lens calibration |
RU2321888C1 (ru) * | 2006-10-16 | 2008-04-10 | Государственное образовательное учреждение высшего профессионального образования Курский государственный технический университет | Способ калибровки дисторсии оптико-электронного устройства |
CN102452081A (zh) * | 2010-10-21 | 2012-05-16 | 财团法人工业技术研究院 | 机械手臂系统参数的校正方法与校正装置 |
CN103372862A (zh) * | 2012-04-12 | 2013-10-30 | 精工爱普生株式会社 | 机器人系统及其校准方法、机器人、校准装置及数码相机 |
CN103411621A (zh) * | 2013-08-09 | 2013-11-27 | 东南大学 | 一种面向室内移动机器人的光流场视觉/ins组合导航方法 |
US20140340508A1 (en) * | 2011-12-26 | 2014-11-20 | Mitsubishi Heavy Industries, Ltd. | Method for calibrating camera measurement system |
CN109632085A (zh) * | 2018-12-29 | 2019-04-16 | 中国计量科学研究院 | 一种基于单目视觉的低频振动校准方法 |
CN111325674A (zh) * | 2018-12-17 | 2020-06-23 | 北京京东尚科信息技术有限公司 | 图像处理方法、装置及设备 |
CN112258588A (zh) * | 2020-11-13 | 2021-01-22 | 江苏科技大学 | 一种双目相机的标定方法、系统及存储介质 |
CN113450418A (zh) * | 2021-06-24 | 2021-09-28 | 深圳市明日系统集成有限公司 | 基于复杂畸变模型的水下标定的改进方法、装置及系统 |
CN114298923A (zh) * | 2021-12-13 | 2022-04-08 | 吉林大学 | 一种用于机器视觉测量系统的镜头评估及图像恢复方法 |
US20220138985A1 (en) * | 2020-10-29 | 2022-05-05 | Black Sesame Technologies Inc. | Method, apparatus, electronic device and storage medium for image distortion calibrating |
CN115170435A (zh) * | 2022-07-28 | 2022-10-11 | 上海海洋大学 | 一种基于Unet网络的图像几何畸变校正方法 |
KR102518913B1 (ko) * | 2022-12-14 | 2023-04-10 | 라온피플 주식회사 | 인공지능 모델의 성능 관리 장치 및 방법 |
-
2023
- 2023-11-24 CN CN202311581165.8A patent/CN117301078B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030035100A1 (en) * | 2001-08-02 | 2003-02-20 | Jerry Dimsdale | Automated lens calibration |
RU2321888C1 (ru) * | 2006-10-16 | 2008-04-10 | Государственное образовательное учреждение высшего профессионального образования Курский государственный технический университет | Способ калибровки дисторсии оптико-электронного устройства |
CN102452081A (zh) * | 2010-10-21 | 2012-05-16 | 财团法人工业技术研究院 | 机械手臂系统参数的校正方法与校正装置 |
US20140340508A1 (en) * | 2011-12-26 | 2014-11-20 | Mitsubishi Heavy Industries, Ltd. | Method for calibrating camera measurement system |
CN103372862A (zh) * | 2012-04-12 | 2013-10-30 | 精工爱普生株式会社 | 机器人系统及其校准方法、机器人、校准装置及数码相机 |
CN103411621A (zh) * | 2013-08-09 | 2013-11-27 | 东南大学 | 一种面向室内移动机器人的光流场视觉/ins组合导航方法 |
CN111325674A (zh) * | 2018-12-17 | 2020-06-23 | 北京京东尚科信息技术有限公司 | 图像处理方法、装置及设备 |
CN109632085A (zh) * | 2018-12-29 | 2019-04-16 | 中国计量科学研究院 | 一种基于单目视觉的低频振动校准方法 |
US20220138985A1 (en) * | 2020-10-29 | 2022-05-05 | Black Sesame Technologies Inc. | Method, apparatus, electronic device and storage medium for image distortion calibrating |
CN112258588A (zh) * | 2020-11-13 | 2021-01-22 | 江苏科技大学 | 一种双目相机的标定方法、系统及存储介质 |
CN113450418A (zh) * | 2021-06-24 | 2021-09-28 | 深圳市明日系统集成有限公司 | 基于复杂畸变模型的水下标定的改进方法、装置及系统 |
CN114298923A (zh) * | 2021-12-13 | 2022-04-08 | 吉林大学 | 一种用于机器视觉测量系统的镜头评估及图像恢复方法 |
CN115170435A (zh) * | 2022-07-28 | 2022-10-11 | 上海海洋大学 | 一种基于Unet网络的图像几何畸变校正方法 |
KR102518913B1 (ko) * | 2022-12-14 | 2023-04-10 | 라온피플 주식회사 | 인공지능 모델의 성능 관리 장치 및 방법 |
Non-Patent Citations (2)
Title |
---|
于舒春;朱延河;闫继宏;赵杰;: "基于新型双目机构的立体视觉系统标定", 机器人, no. 04, pages 353 - 356 * |
唐东林;游传坤;丁超;龙再勇;汤炎锦;: "爬壁机器人双目视觉障碍检测系统", 机械科学与技术, no. 05, pages 765 - 772 * |
Also Published As
Publication number | Publication date |
---|---|
CN117301078B (zh) | 2024-03-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI742382B (zh) | 透過電腦執行的、用於車輛零件識別的神經網路系統、透過神經網路系統進行車輛零件識別的方法、進行車輛零件識別的裝置和計算設備 | |
CN109919331A (zh) | 一种机载设备智能维修辅助系统及方法 | |
CN111950396B (zh) | 一种仪表读数神经网络识别方法 | |
CN103679639B (zh) | 基于非局部均值的图像去噪方法和装置 | |
CN110415815A (zh) | 深度学习和人脸生物特征信息的遗传病辅助诊断系统 | |
CN108628164A (zh) | 一种基于循环神经网络模型的工业过程半监督软测量方法 | |
CN116707331B (zh) | 基于模型预测的逆变器输出电压高精度调节方法及系统 | |
CN115660233A (zh) | 光伏功率预测方法、装置、电子设备及存储介质 | |
CN114283320A (zh) | 基于全卷积的无分支结构目标检测方法 | |
CN111476307A (zh) | 一种基于深度领域适应的锂电池表面缺陷检测方法 | |
CN115797808A (zh) | 一种无人机巡检缺陷图像的识别方法、系统、装置及介质 | |
CN116524062A (zh) | 一种基于扩散模型的2d人体姿态估计方法 | |
CN114298923A (zh) | 一种用于机器视觉测量系统的镜头评估及图像恢复方法 | |
CN117301078B (zh) | 一种机器手视觉校准方法及系统 | |
CN111553954B (zh) | 一种基于直接法单目slam的在线光度标定方法 | |
CN117095236A (zh) | 一种用于评估叶根轮槽试验精确性的方法及系统 | |
CN110211122A (zh) | 一种检测图像处理方法及装置 | |
CN112837420B (zh) | 基于多尺度和折叠结构的兵马俑点云的形状补全方法及系统 | |
CN115170911A (zh) | 一种基于图像识别的人体关键部位定位系统及方法 | |
CN114693334A (zh) | 基于CEEMD和ConvLSTM的碳价预测方法和系统 | |
CN114387524A (zh) | 基于多层级二阶表征的小样本学习的图像识别方法和系统 | |
CN109886105B (zh) | 基于多任务学习的价格牌识别方法、系统及存储介质 | |
CN109978962B (zh) | 一种面向暗室照度计检定的低对比度示值图像智能识别方法 | |
CN113536926A (zh) | 基于距离向量和多角度自适应网络的人体动作识别方法 | |
CN117798654B (zh) | 汽轮机轴系中心智能调整系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |