CN111488837A - 一种基于视觉识别的网球拾取方法以及系统 - Google Patents
一种基于视觉识别的网球拾取方法以及系统 Download PDFInfo
- Publication number
- CN111488837A CN111488837A CN202010289836.3A CN202010289836A CN111488837A CN 111488837 A CN111488837 A CN 111488837A CN 202010289836 A CN202010289836 A CN 202010289836A CN 111488837 A CN111488837 A CN 111488837A
- Authority
- CN
- China
- Prior art keywords
- image
- camera
- tennis
- tennis ball
- matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/66—Analysis of geometric attributes of image moments or centre of gravity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/42—Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
- G06V10/431—Frequency domain transformation; Autocorrelation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20061—Hough transform
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明实施例提供了一种基于视觉识别的网球拾取方法以及系统,包括拾球装置、第一摄像头和第二摄像头,通过第一摄像头拍摄到第一图像,通过第二摄像头拍摄到第二图像,通过第一图像得到二值边缘图,根据二值边缘图得到各圆形物体的圆心位置,再根据第一图像和第二图像获取立体图像对后进行立体匹配,获取到视差矩阵,通过视差矩阵和各圆形物体的圆心位置,重建各圆形物体的三维模型,通过对各圆形物体的Z轴坐标进行判断,确定该圆形物体是否为网球,拾球装置根据网球的位置坐标移动至网球附近进行拾取。本发明实施例解决了现有技术中存在的拾球装置对网球识别的效果较差,导致经常漏检网球的技术问题。
Description
技术领域
本发明涉及体育器材的技术领域,尤其涉及一种基于视觉识别的网球拾取方法以及系统。
背景技术
近年来网球在我国发展迅猛,场馆建设的规模和数量显著增长,网球人口数明显增加,规模不等的赛事层出不穷。网球作为当今的一种时尚运动,对人们的身心健康能起到良好的促进作用。我国现有网球场约85475所,网球运动人口864万,且运动人口数量每年以10%~12%的速度增长,市场潜力巨大。
目前,在球场上进行网球训练时,经常都是采用发球机进行多球训练,所谓的多球训练通常是多个网球连续进行发球,供击球者击打,以便击球者能够具备快速的跑动击球,能够对击球者起到较好的训练,在这个过程中通常都会使用到较多的网球,而且通常多球训练都是所有球发完之后再进行收集,通常采用的是通过人力辅助的收集器进行收集,人工辅助的收集器主要以人力为动力来源,依靠运动员或球场上工作人员推或拉着机器进行网球的收集,这个过程中就会造成需要较为耗费体力。现在已经有一些拾球装置能够进行辅助拾球,这些拾球装置效果都不好,其主要的原因在于拾球装置对网球识别的效果较差,导致经常漏检网球。
综上所述,现有技术中存在的拾球装置对网球识别的效果较差,导致经常漏检网球的技术问题。
发明内容
本发明提供了一种基于视觉识别的网球拾取方法以及系统,解决了现有技术中存在的拾球装置对网球识别的效果较差,导致经常漏检网球的技术问题。
本发明实施例提供了一种基于视觉识别的网球拾取方法,包括拾球装置、第一摄像头和第二摄像头,所述第一摄像头和所述第二摄像头进行双目定位设置,所述方法包括以下步骤:
通过第一摄像头对网球场进行拍摄,获取第一图像;
将所述第一图像进行灰度转换,获取二值边缘图像;
对所述二值边缘图像进行霍夫圆变换检测;
当检测到二值边缘图像上有圆形物体时,则获取二值边缘图像上的各所述圆形物体的圆心位置;
通过第二摄像头对网球场进行拍摄,获取第二图像;
根据所述第一图像和第二图像,获取立体图像对;
将立体图像对以第一图像为基准进行立体匹配,获取视差矩阵;
根据所述视差矩阵和所述各圆形物体的圆心位置,获取相机三维坐标系内各圆形物体的三维模型;
判断相机坐标系内的各圆形物体的三维模型的Z轴坐标是否超过预设范围;
当圆形物体的三维模型的Z轴坐标在预设范围时,则判定所述圆形物体为网球获取所述网球的位置坐标;
根据所述网球的位置坐标,拾球装置对网球进行拾取。
优选的,所述根据网球的位置坐标,拾球装置对网球进行拾取的过程包括:
根据网球的位置坐标和拾球装置的位置坐标,获取拾球装置移动到网球的位置坐标的移动路径;
所述拾球装置根据所述移动路径移动至所述网球的位置坐标;
通过拾球装置的爪手拾球网球。
优选的,所述拾球装置移动到所述网球的位置坐标的过程包括:
将所述移动路径通过PID算法进行实时计算,获取拾球装置移动到所述网球的位置坐标的实时速度;
根据所述实时速度,拾球装置移动至所述网球的位置坐标。
优选的,所述根据所述第一图像和第二图像,获取立体图像对的过程包括:
第一图像和第二图像校正后的映射表对所述第一图像和第二图像进行映射,获取无畸变且行对准的立体图像对。
优选的,所述第一图像和第二图像校正后的映射表的获取包括:
通过对第一摄像头和第二摄像头进行单独标定,分别获取第一摄像头的第一内参矩阵、第一摄像头的第一畸变矩阵、第二摄像头的第二内参矩阵和第二摄像头的第二畸变矩阵;
通过对第一摄像头和第二摄像头进行立体标定,获取第一摄像头和第二摄像头之间相对几何位置的旋转矩阵和平移向量;
根据第一内参矩阵、第二内参矩阵、第一畸变矩阵、第二畸变矩阵、旋转矩阵和平移向量,获取第一摄像头的第一校正矩阵、第一摄像头的第一投影矩阵、第二摄像头的第二校正矩阵和第二摄像头的第二投影矩阵;
根据第一校正矩阵、第一投影矩阵、第二校正矩阵、第二投影矩阵、第一图像和第二图像,计算获取第一图像和第二图像校正后的映射表。
优选的,所述Z轴的预设范围为5-8cm。
优选的,所述将所述第一图像进行灰度转换,获取二值边缘图像的过程包括:
将所述第一图像进行灰度转换后再进行中值滤波操作,获取二值边缘图像。
优选的,当检测到二值边缘图上的圆形物体超过一个时,则获取各圆形物体对应的各网球的位置坐标;
将各网球的位置坐标分别与拾球装置的坐标之间的距离进行比较,获取距离大小的排序;
根据所述距离大小的排序,获取拾球装置的拾球路径;
根据所述拾球路径,所述拾球装置对网球进行拾取。
优选地,当对所述二值边缘图像进行霍夫圆变换检测未检测到圆形物体时或当所有圆形物体的三维模型的Z轴坐标超过预设范围时;则通过同时转动第一摄像头和第二摄像头至网球场的下一个视角角度,重新获取新的第一图像和第二图像。
本发明另一实施方式提供了一种基于视觉识别的网球拾取系统,所述系统包括如下模块:
第一图像模块,用于通过第一摄像头对网球场进行拍摄,获取第一图像;
转化模块,用于将所述第一图像进行灰度转换,获取二值边缘图像;
检测模块,用于对所述二值边缘图像进行霍夫圆变换检测;
圆形物体模块,用于当检测到二值边缘图像上有圆形物体时,则获取二值边缘图像上的各所述圆形物体的圆心位置;
第二图像模块,用于通过第二摄像头对网球场进行拍摄,获取第二图像;
立体图像对模块,用于根据所述第一图像和第二图像,获取立体图像对;
匹配模块,用于将立体图像对以第一图像为基准进行立体匹配,获取视差矩阵;
三维模块,用于根据所述视差矩阵和所述各圆形物体的圆心位置,获取相机三维坐标系内各圆形物体的三维模型;
判断模块,用于判断相机坐标系内的各圆形物体的三维模型的Z轴坐标是否超过预设范围;
判定模块,用于当圆形物体的三维模型的Z轴坐标在预设范围时,则判定所述圆形物体为网球获取所述网球的位置坐标;
拾取模块,用于根据所述网球的位置坐标,拾球装置对网球进行拾取。
从以上技术方案可以看出,本发明实施例具有以下优点:
本发明实施例提供了一种基于视觉识别的网球拾取方法以及系统,包括拾球装置、第一摄像头和第二摄像头,通过第一摄像头拍摄到第一图像,通过第二摄像头拍摄到第二图像,通过第一图像得到二值边缘图,根据二值边缘图检测得到各圆形物体的圆心位置,再根据第一图像和第二图像获取立体图像对后进行立体匹配,获取到视差矩阵,通过视差矩阵和各圆形物体的圆心位置,重建各圆形物体的三维模型,通过对各圆形物体的Z轴坐标进行判断,确定该圆形物体是否为网球,避免了错误地拾取到非网球,浪费了时间,降低了拾取的效率。拾球装置根据网球的位置坐标移动至网球附近进行拾取。本发明实施例能够通过视觉识别,判断出网球,再进行拾取,能够准确的对网球进行识别,防止漏检网球的情况,同时提高拾球的效率,解决了现有技术中存在的拾球装置对网球识别的效果较差,导致经常漏检网球的技术问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
图1为本发明实施例提供的一种基于视觉识别的网球拾取方法以及系统的方法流程图。
图2为本发明实施例提供的一种基于视觉识别的网球拾取方法以及系统的系统结构图。
具体实施方式
本发明提供了一种基于视觉识别的网球拾取方法以及系统,解决了现有技术中存在的拾球装置对网球识别的效果较差,导致经常漏检网球的技术问题。
为使得本发明的发明目的、特征、优点能够更加的明显和易懂,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,下面所描述的实施例仅仅是本发明一部分实施例,而非全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
请参阅图1,图1为本发明实施例提供的一种基于视觉识别的网球拾取方法以及系统的方法流程图。
本发明实施例提供的一种基于视觉识别的网球拾取方法,包括拾球装置、第一摄像头和第二摄像头,所述方法包括以下步骤:
所述第一摄像头和所述第二摄像头为双目定位设置的摄像头,所述拾球装置包括用于抓取网球的爪手、用于盛放网球的储物箱、用于安装爪手和储物箱的车体以及安装在车体下的移动装置,移动装置能够为车体提供动力,所述移动装置可以为常见的四个车轮通过车轴安装在车体上,电机驱动车轴转动,带动车体移动。
通过第一摄像头对网球场进行拍摄,获取第一图像;通过第二摄像头对网球场进行拍摄,获取第二图像;
为了能够得到更加精确的第一图像和第二图像,同时为了后续的立体配准,先要对第一摄像头和第二摄像头进行处理,处理方式包括:
通过对第一摄像头和第二摄像头进行单独标定,分别获取第一摄像头的第一内参矩阵、第一摄像头的第一畸变矩阵、第二摄像头的第二内参矩阵和第二摄像头的第二畸变矩阵。
通过对第一摄像头和第二摄像头进行立体标定,获取第一摄像头和第二摄像头之间相对几何位置的旋转矩阵和平移向量;
根据第一内参矩阵、第二内参矩阵、第一畸变矩阵、第二畸变矩阵、旋转矩阵和平移向量,获取第一摄像头的第一校正矩阵、第一摄像头的第一投影矩阵、第二摄像头的第二校正矩阵和第二摄像头的第二投影矩阵;
根据第一校正矩阵、第一投影矩阵、第二校正矩阵、第二投影矩阵、第一图像和第二图像,计算获取校正后的第一图像和第二图像,通过对校正后的第一图像和第二图像进行映射,获取第一图像和第二图像校正后的映射表。
将所述第一图像进行灰度转换,获取二值边缘图像;
所述将所述第一图像进行灰度转换,获取二值边缘图像的过程包括:
将所述第一图像进行灰度转换后再进行中值滤波操作,获取二值边缘图像。
具体为:通过将第一图像通过灰度转换,获取灰度图像;
将灰度图像进行边缘检测获得边缘图像,对边缘图像进行中值滤波去除一些噪点,获得二值边缘图像。
对所述二值边缘图像进行霍夫圆变换检测;
当检测到二值边缘图像上有圆形物体时,获取二值边缘图像上的各所述圆形物体的圆心位置;
当未检测到二值边缘图像上有圆形物体时,则判定二值边缘图像上没有圆形物体;
将所述二值边缘图像进行霍夫圆变换检测,将所有能够识别到的圆形的物体在二值边缘图像上标识出来,由于二值边缘图像是根据第一图像得到的,第一图像为基准建立平面坐标系,通过能够将圆形物体的圆形位置在平面坐标系上标识出来,即在二值边缘图像置于平面坐标系上。或者还可以直接在二值边缘图像上标示出圆心位置,二值边缘图像上的圆心位置与第一图像上圆心位置是相同的,后续直接可以根据实际需要来进行匹配。
根据所述第一图像和第二图像,获取立体图像对;
所述根据所述第一图像和第二图像,获取立体图像对的过程包括:
第一图像和第二图像校正后的映射表对所述第一图像和第二图像进行映射,获取无畸变且行对准的立体图像对。
上述中已经说明了获取第一图像和第二图像校正后的映射表,通过映射表获取校正后的所述第一图像和第二图像,能够直接得到无畸变且行对准的立体图像对。
将立体图像对以第一图像为基准进行立体匹配,获取视差矩阵;
以第一图像为基准是因为在上述进行霍夫圆变换识别在以第一图像转换的二值边缘图像上进行的,在立体匹配时以第一图像为基准进行立体匹配,即通过第一图像为基准进建立的相机三维坐标系,所述相机三维坐标系与所述圆形物体的圆心位置所述使用平面坐标系原点的位置是重合的。因此能够快速的在三维坐标系中得到所述圆形物体的圆心位置。对立体图像是通过使用BM算法进行立体匹配。
根据所述视差矩阵和所述各圆形物体的圆心位置,获取相机三维坐标系内各圆形物体的三维模型;
将视差矩阵映射到相机三维坐标系中,将立体图像对的特征点完成在立体坐标系下的三维重建;由于本申请实施例需要的是对网球的精确识别,因此在重建三维模型时,只需要有可能是网球的才重建三维模型,所述圆形物体的圆心位置对应于相机三维坐标系上的物体进行三维重建,不对其他的东西重建三维模型,能够大大加快了三维重建的效率,避免了过多物体重建三维模型,导致三维重建需要处理的数据过多,重建三维模型速率较慢的问题。
判断相机坐标系内的各圆形物体的三维模型的Z轴坐标是否超过预设范围;
在重建三维模型后,能够得到一些网球或者是非网球的一些物体,这个时候就要需要判断重建的三维模型哪些是网球,标准网球为65mm直径的球体,这意味着在相机三维坐标系下网球的最高点的Z轴坐标应该是65mm左右,因此设定所述Z轴的预设范围为5-8cm,由于可能存在误差,因此设定Z轴的预设范围在65mm之间,即预设范围为5-8cm能够涵盖出现误差的情况。
能够较为准确的区分出网球。
当圆形物体的三维模型的Z轴坐标超过预设范围时,则判定所述圆形物体非网球;通常有可能会是一些圆柱体桌脚等,有可能会被霍夫圆变换检测出圆形物体,但是桌角等在Z轴坐标肯定会超过预设范围,因此判定为非网球,避免了误判的情况。
当圆形物体的三维模型的Z轴坐标在预设范围时,则判定获取该圆形物体为网球且获取该圆形物体的坐标为网球的位置坐标;
在进行立体匹配时,可能图像中会有极小的面积未匹配,这时的视差值为负值,当对网球中心的Z轴进行检测时,如果发现此点恰好是未匹配点,就以此点为中心,搜索3x3范围内的匹配点,将最先搜索到这一点的Z轴坐标作为网球中心的Z轴坐标,如果3x3范围内未搜索到匹配点,就认为此中心不是网球中心。进一步提升了对网球的识别能力。
根据所述网球的位置坐标,拾球装置对网球进行拾取。
所述根据网球的位置坐标,拾球装置对网球进行拾取的过程包括:
根据网球的位置坐标和拾球装置的位置坐标,获取拾球装置移动到网球的位置坐标的移动路径;
所述拾球装置根据所述移动路径移动至所述网球的位置坐标;
通过拾球装置的爪手拾球网球。
当检测到二值边缘图上的圆形物体超过一个时,则获取各圆形物体对应的各网球的位置坐标;
即在同第一图像内检测到的圆形物体超过一个的时候,在进行二值边缘图像霍夫圆变换能够检测出多个圆形物体,最终获取的网球的位置坐标也有多个,这个时候拾球装置需要选择如何拾取。
当检测到二值边缘图上的圆形物体超过一个时,则获取各圆形物体对应的各网球的位置坐标;
将各网球的位置坐标分别与拾球装置的坐标之间的距离进行比较,获取距离大小的排序;
根据所述距离大小的排序,获取拾球装置的拾球路径;
所述拾球路径可以根据距离大小进行排序,距离由小到大的方式规划拾球路径,能够便于拾球装置减少不必要的行径,提升拾球效率。
根据所述拾球路径,所述拾球装置对网球进行拾取。
通过拾球路径能够快速的对网球进行拾球操作,能够较少拾球的时间,提升拾球效率。
所述拾球装置移动到所述网球的位置坐标的过程包括:
将所述移动路径通过PID算法进行实时计算,获取拾球装置移动到所述网球的位置坐标的实时速度;
根据所述实时速度,拾球装置移动至所述网球的位置坐标。
拾球装置根据预设路径移动到所述网球的位置坐标的过程中,对于拾球装置的速度采取变参数PID控制算法,提升了拾球装置移动到所述网球的位置坐标的精度,同时也提高拾球装置移动的效率。
补充部分:
U(t):拾球装置控制器的输出值,拾球装置的电极控制输入PWM
e(t):拾球装置控制器控制器的输入值,这里指目标位置与目前距离的差值。
KP:Proportion(比例),就是输入偏差乘以一个常数。
TI:Integral(积分),就是对输入偏差进行积分运算。目的是消除稳态误差
TD:Derivative(微分),对输入偏差进行微分运算。起到加快调节的作用。
B:积分参数。根据距离调节积分变量对于输出的影响。
a、b:在平面坐标上拾球装置与目标网球x轴的和y轴的距离。
在这里我们采用了位置式PID来达到我们控制的要求,这里U(t)的输出与拾球装置电机PWM的控制是对应的。且对之前的误差进行了累加,系统控制精度更高。
考虑到拾球装置距离较远时误差积分可能会对拾球装置的输出造成影响,这里我们引入了积分控制参数B来起到调节作用,当距离较远时,B=0,积分部分对于拾球装置的控制不产生影响。距离较近时积分部分对拾球装置起到调节。
防止超调:拾球装置在移向网球的过程中,应该最大限度的防止拾球装置的超调。在这里我们采用了积分限幅的方法。通过限制误差累计的大小,最大限度防止了超调现场的发生。
另外,当对所述二值边缘图像进行霍夫圆变换检测未检测到圆形物体时或当所有圆形物体的三维模型的Z轴坐标超过预设范围时;则则通过同时转动第一摄像头和第二摄像头至网球场的下一个视角角度,重新获取新的第一图像和第二图像。
当对所述二值边缘图像进行霍夫圆变换检测未检测到圆形物体时或当所有圆形物体的三维模型的Z轴坐标超过预设范围时,即第一图像和第二图像都没有测到有网球,通过同时转动第一摄像头和第二摄像头到下一个视角继续拍摄,重新获取新的第一图像和第二图像,直到能够获取到满足所述二值边缘图像进行霍夫圆变换检测到圆形物体和有圆形物体的三维模型的Z轴坐标在预设范围内的情况。
如图2所示,本发明另一实施例提供了一种基于视觉识别的网球拾取系统,所述系统包括如下模块:
第一图像模块201,用于通过第一摄像头对网球场进行拍摄,获取第一图像;
转化模块202,用于将所述第一图像进行灰度转换,获取二值边缘图像;
检测模块203,用于对所述二值边缘图像进行霍夫圆变换检测;
圆形物体模块204,用于当检测到二值边缘图像上有圆形物体时,则获取二值边缘图像上的各所述圆形物体的圆心位置;
第二图像模块205,用于通过第二摄像头对网球场进行拍摄,获取第二图像;
立体图像对模块206,用于根据所述第一图像和第二图像,获取立体图像对;
匹配模块207,用于将立体图像对以第一图像为基准进行立体匹配,获取视差矩阵;
三维模块208,用于根据所述视差矩阵和所述各圆形物体的圆心位置,获取相机三维坐标系内各圆形物体的三维模型;
判断模块209,用于判断相机坐标系内的各圆形物体的三维模型的Z轴坐标是否超过预设范围;
判定模块210,用于当圆形物体的三维模型的Z轴坐标在预设范围时,则判定所述圆形物体为网球获取所述网球的位置坐标;
拾取模块211,用于根据所述网球的位置坐标,拾球装置对网球进行拾取。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,RandomAccessMemory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种基于视觉识别的网球拾取方法,其特征在于,包括拾球装置、第一摄像头和第二摄像头,所述第一摄像头和所述第二摄像头进行双目定位设置,所述方法包括以下步骤:
通过第一摄像头对网球场进行拍摄,获取第一图像;
将所述第一图像进行灰度转换,获取二值边缘图像;
对所述二值边缘图像进行霍夫圆变换检测;
当检测到二值边缘图像上有圆形物体时,则获取二值边缘图像上的各所述圆形物体的圆心位置;
通过第二摄像头对网球场进行拍摄,获取第二图像;
根据所述第一图像和所述第二图像,获取立体图像对;
将立体图像对以第一图像为基准进行立体匹配,获取视差矩阵;
根据所述视差矩阵和所述各圆形物体的圆心位置,获取相机三维坐标系内各圆形物体的三维模型;
判断相机坐标系内的各圆形物体的三维模型的Z轴坐标是否超过预设范围;
当圆形物体的三维模型的Z轴坐标在预设范围时,则判定所述圆形物体为网球并获取所述网球的位置坐标;
根据所述网球的位置坐标,拾球装置对网球进行拾取。
2.根据权利要求1所述的一种基于视觉识别的网球拾取方法,其特征在于,所述根据网球的位置坐标,拾球装置对网球进行拾取的过程包括:
根据网球的位置坐标和拾球装置的位置坐标,获取拾球装置移动到网球的位置坐标的移动路径;
所述拾球装置根据所述移动路径移动至所述网球的位置坐标;
通过拾球装置的爪手拾球网球。
3.根据权利要求2所述的一种基于视觉识别的网球拾取方法,其特征在于,所述拾球装置移动到所述网球的位置坐标的过程包括:
将所述移动路径通过PID算法进行实时计算,获取拾球装置移动到所述网球的位置坐标的实时速度;
根据所述实时速度,拾球装置移动至所述网球的位置坐标。
4.根据权利要求3所述的一种基于视觉识别的网球拾取方法,其特征在于,所述根据所述第一图像和第二图像,获取立体图像对的过程包括:
第一图像和第二图像校正后的映射表对所述第一图像和第二图像进行映射,获取无畸变且行对准的立体图像对。
5.根据权利要求4所述的一种基于视觉识别的网球拾取方法,其特征在于,所述第一图像和第二图像校正后的映射表的获取包括:
通过对第一摄像头和第二摄像头进行单独标定,分别获取第一摄像头的第一内参矩阵、第一摄像头的第一畸变矩阵、第二摄像头的第二内参矩阵和第二摄像头的第二畸变矩阵;
通过对第一摄像头和第二摄像头进行立体标定,获取第一摄像头和第二摄像头之间相对几何位置的旋转矩阵和平移向量;
根据第一内参矩阵、第二内参矩阵、第一畸变矩阵、第二畸变矩阵、旋转矩阵和平移向量,获取第一摄像头的第一校正矩阵、第一摄像头的第一投影矩阵、第二摄像头的第二校正矩阵和第二摄像头的第二投影矩阵;
根据第一校正矩阵、第一投影矩阵、第二校正矩阵、第二投影矩阵、第一图像和第二图像,计算获取第一图像和第二图像校正后的映射表。
6.根据权利要求1所述的一种基于视觉识别的网球拾取方法,其特征在于,所述Z轴的预设范围为5-8cm。
7.根据权利要求6所述的一种基于视觉识别的网球拾取方法,其特征在于,所述将所述第一图像进行灰度转换,获取二值边缘图像的过程包括:
将所述第一图像进行灰度转换后进行中值滤波操作,获取二值边缘图像。
8.根据权利要求7所述的一种基于视觉识别的网球拾取方法,其特征在于,
当检测到二值边缘图上的圆形物体超过一个时,则获取各圆形物体对应的各网球的位置坐标;
将各网球的位置坐标分别与拾球装置的坐标之间的距离进行比较,获取距离大小的排序;
根据所述距离大小的排序,获取拾球装置的拾球路径;
根据所述拾球路径,所述拾球装置对网球进行拾取。
9.根据权利要求1所述的一种基于视觉识别的网球拾取方法,其特征在于,当对所述二值边缘图像进行霍夫圆变换检测未检测到圆形物体时或当所有圆形物体的三维模型的Z轴坐标超过预设范围时;则通过同时转动第一摄像头和第二摄像头至网球场的下一个视角角度,重新获取新的第一图像和第二图像。
10.一种基于视觉识别的网球拾取系统,其特征在于,所述系统包括如下模块:
第一图像模块,用于通过第一摄像头对网球场进行拍摄,获取第一图像;
转化模块,用于将所述第一图像进行灰度转换,获取二值边缘图像;
检测模块,用于对所述二值边缘图像进行霍夫圆变换检测;
圆形物体模块,用于当检测到二值边缘图像上有圆形物体时,则获取二值边缘图像上的各所述圆形物体的圆心位置;
第二图像模块,用于通过第二摄像头对网球场进行拍摄,获取第二图像;
立体图像对模块,用于根据所述第一图像和第二图像,获取立体图像对;
匹配模块,用于将立体图像对以第一图像为基准进行立体匹配,获取视差矩阵;
三维模块,用于根据所述视差矩阵和所述各圆形物体的圆心位置,获取相机三维坐标系内各圆形物体的三维模型;
判断模块,用于判断相机坐标系内的各圆形物体的三维模型的Z轴坐标是否超过预设范围;
判定模块,用于当圆形物体的三维模型的Z轴坐标在预设范围时,则判定所述圆形物体为网球获取所述网球的位置坐标;
拾取模块,用于根据所述网球的位置坐标,拾球装置对网球进行拾取。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010289836.3A CN111488837B (zh) | 2020-04-14 | 2020-04-14 | 一种基于视觉识别的网球拾取方法以及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010289836.3A CN111488837B (zh) | 2020-04-14 | 2020-04-14 | 一种基于视觉识别的网球拾取方法以及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111488837A true CN111488837A (zh) | 2020-08-04 |
CN111488837B CN111488837B (zh) | 2023-03-21 |
Family
ID=71794864
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010289836.3A Active CN111488837B (zh) | 2020-04-14 | 2020-04-14 | 一种基于视觉识别的网球拾取方法以及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111488837B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117190866A (zh) * | 2023-11-08 | 2023-12-08 | 广东工业大学 | 多个堆叠电子元器件的极性判别检测方法、装置和设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106384382A (zh) * | 2016-09-05 | 2017-02-08 | 山东省科学院海洋仪器仪表研究所 | 一种基于双目立体视觉的三维重建系统及其方法 |
CN108074265A (zh) * | 2017-12-29 | 2018-05-25 | 思博赛睿(北京)科技有限公司 | 一种基于视觉辨识的网球定位系统、方法及装置 |
-
2020
- 2020-04-14 CN CN202010289836.3A patent/CN111488837B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106384382A (zh) * | 2016-09-05 | 2017-02-08 | 山东省科学院海洋仪器仪表研究所 | 一种基于双目立体视觉的三维重建系统及其方法 |
CN108074265A (zh) * | 2017-12-29 | 2018-05-25 | 思博赛睿(北京)科技有限公司 | 一种基于视觉辨识的网球定位系统、方法及装置 |
Non-Patent Citations (1)
Title |
---|
林剑冰 等: "机器视觉导引的室内自动运输车定位系统", 《机械科学与技术》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117190866A (zh) * | 2023-11-08 | 2023-12-08 | 广东工业大学 | 多个堆叠电子元器件的极性判别检测方法、装置和设备 |
CN117190866B (zh) * | 2023-11-08 | 2024-01-26 | 广东工业大学 | 多个堆叠电子元器件的极性判别检测方法、装置和设备 |
US12039747B1 (en) | 2023-11-08 | 2024-07-16 | Guangdong University Of Technology | Polarity discrimination detection method and apparatus for multiple stacked electronic components and device |
Also Published As
Publication number | Publication date |
---|---|
CN111488837B (zh) | 2023-03-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106924961B (zh) | 一种智能象棋对弈控制方法及系统 | |
CN103971378A (zh) | 一种混合视觉系统中全景图像的三维重建方法 | |
CN109919975B (zh) | 一种基于坐标标定的广域监控运动目标关联方法 | |
CN108010086A (zh) | 基于网球场标志线交点的摄像机标定方法、装置和介质 | |
CN111488837B (zh) | 一种基于视觉识别的网球拾取方法以及系统 | |
CN111681186A (zh) | 图像处理方法、装置、电子设备及可读存储介质 | |
CN112348890B (zh) | 一种空间定位方法、装置及计算机可读存储介质 | |
CN114979469B (zh) | 一种基于机器视觉比对的摄像机机械误差校准方法及系统 | |
CN111583342A (zh) | 一种基于双目视觉的目标快速定位方法及装置 | |
CN116912333A (zh) | 一种基于作业围栏标定杆的相机姿态自标定方法 | |
CN113034526B (zh) | 一种抓取方法、抓取装置及机器人 | |
CN110097494B (zh) | 一种基于傅里叶-梅林变换的货物定位方法 | |
CN112434559A (zh) | 一种机器人识别定位方法 | |
CN109741370B (zh) | 一种目标跟踪方法和装置 | |
CN110363703B (zh) | 基于深度摄像头的货架监控方法 | |
CN111311690B (zh) | 一种深度相机的标定方法、装置、终端及计算机存储介质 | |
CN114862969A (zh) | 一种智能巡检机器人的机载云台像机角度自适应调整方法及装置 | |
CN112686962A (zh) | 室内视觉定位方法、装置及电子设备 | |
CN108426566B (zh) | 一种基于多摄像机的移动机器人定位方法 | |
CN114495199B (zh) | 器官定位方法、装置、电子设备及存储介质 | |
Wang et al. | Research on sugarcane seed-bud location based on anisotropic scaling transformation | |
CN111784749A (zh) | 一种基于双目视觉的空间定位与运动分析系统 | |
CN109493356A (zh) | 一种基于机器视觉的自动报靶系统智能标定方法 | |
CN113705388B (zh) | 基于摄像信息实时定位多人空间位置的方法及系统 | |
CN117523009B (zh) | 一种双目相机标定方法、系统、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |