CN113591833A - 一种基于多终端间隔式直连的控制信号传输方法与系统 - Google Patents
一种基于多终端间隔式直连的控制信号传输方法与系统 Download PDFInfo
- Publication number
- CN113591833A CN113591833A CN202111148735.5A CN202111148735A CN113591833A CN 113591833 A CN113591833 A CN 113591833A CN 202111148735 A CN202111148735 A CN 202111148735A CN 113591833 A CN113591833 A CN 113591833A
- Authority
- CN
- China
- Prior art keywords
- image
- terminal
- preset
- color
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W76/00—Connection management
- H04W76/20—Manipulation of established connections
- H04W76/23—Manipulation of direct-mode connections
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
Abstract
本申请揭示了一种基于多终端间隔式直连的控制信号传输方法,建立第一直接通信连接;若存在网络延迟,则计算真实距离;若真实距离大于预设的距离阈值,则得到第一基础图像;控制第一紫外闪光灯与第一红外闪光灯开启;得到第一混合图像;得到第一差值图像;确定多个第二终端;控制多个第二紫外闪光灯与多个第二红外闪光灯开启,得到多个第二差值图像;建立多个图像对,输入预设的图像相似度预测模型中,以得到多个相似度值;若最大相似度值大于预设的相似度阈值,则获取指定第二终端;进行通信连接切换处理,以将第一直接通信连接,转换第二直接通信连接,解决了网络延迟的问题。
Description
技术领域
本申请涉及到计算机领域,特别是涉及到一种基于多终端间隔式直连的控制信号传输方法与系统。
背景技术
网络延迟是通信中难以避免的问题。虽然随着技术的进步,网络延迟的现象得到了改善,但对于远距离通信,尤其是远距离控制信号的通信时,网络延迟的影响会被放大。传统方案中,对于远距离控制信号的通信,可以采用优化网络节点,减少传输过程中的信号衰减等方式实现,但这仅是对于网络延迟的负面影响的削弱,在对于信号即时性强的场景中,效果仍然不佳。
发明内容
本申请提出一种基于多终端间隔式直连的控制信号传输方法,包括以下步骤:
S1、服务器向控制终端展示可选的多个第一终端,再确定控制终端选择的指定第一终端,建立控制终端与指定第一终端的第一直接通信连接,判断所述第一直接通信连接是否存在网络延迟;其中,所述指定第一终端用于控制预设的第一物品抓取机器;
S2、若所述第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离,并判断所述真实距离是否大于预设的距离阈值;
S3、若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像;
S4、控制预设的第一紫外闪光灯与第一红外闪光灯开启,以将紫外线和红外线同时照射第一物品抓取机器的内部;其中,第一物品抓取机器还被可见光照射;第一物品抓取机器内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色;第二颜色与第四颜色不同;
S5、控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像;
S6、根据与控制终端的距离小于预设的距离阈值的规则,确定多个第二终端;其中,第二终端用于控制预设的第二物品抓取机器;
S7、控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,以将紫外线和红外线同时照射多个第二物品抓取机器的内部,并且保证所述多个第二物品抓取机器均未被可见光照射;控制预设的多个第二图像传感器,对所述多个第二物品抓取机器的内部分别进行图像采集处理,以得到多个第二差值图像;
S8、建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值;其中,每个图像对均包括一个第一差值图像和一个第二差值图像,所述图像相似度预测模型基于深度卷积神经网络模型训练而成;
S9、判断所述多个相似度值中的最大相似度值是否大于预设的相似度阈值;
S10、若最大相似度值大于预设的相似度阈值,则根据相似度值-图像对-第二差值图像-第二物品抓取机器-第二终端的对应关系,获取与所述最大相似度值对应的指定第二终端;
S11、进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接。
其中,所述第二物品抓取机器的内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色。
其中,所述若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像的步骤S3之后,包括:
S31、将所述第一基础图像同时传输至所述控制终端;
所述控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像的步骤S5之后,包括:
S51、将所述第一混合图像同时传输至所述控制终端;
所述第一图像传感器相对于所述第一物品抓取机器的第一相对位置,与所述第二图像传感器相对于所述第二物品抓取机器的第二相对位置相同;
所述第一图像传感器和所述第二图像传感器均仅能够感测到可见光信号。
其中,所述建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值的步骤S8之前,包括:
S71、对预设的样本物品抓取机器内的被抓取物品进行多次位置调整,并在每次位置调整后均采用图像传感器进行图像采集处理,以得到多幅样本图像;其中,所述样本物品抓取机器内的被抓取物品的第一指定位置涂有第三涂料,第二指定位置涂有第四涂料,除所述第一指定位置与所述第二指定位置的其他位置均涂有第五涂料;所述第三涂料在可见光下呈第二颜色,所述第四涂料在可见光下呈第四颜色,所述第五涂料在可见光下呈第五颜色,所述第五颜色不同于所述第二颜色和所述第四颜色;
S72、对所述多幅样本图像进行人工配对,以生成多个相似图像对与多个不相似图像对;其中,每个相似图像对和每个不相似图像对均人工标注有相似程度值;
S73、按预设比例对所述多个相似图像对与所述多个不相似图像对进行划分,从而得到多个训练用图像对与多个验证用图像对;其中,所述多个训练用图像对中的相似图像对的占比为0.5,等于所述多个验证用图像对中的相似图像对的占比为0.5;
S74、调取预设的深度卷积神经网络模型,并将所述多个训练用图像对输入深度卷积神经网络模型中进行训练,以得到中间预测模型;其中,训练过程中采用反向传播算法进行网络参数的更新;
S75、采用所述多个验证用图像对所述中间预测模型进行验证处理,并判断验证处理的结果是否为验证通过;
S76、若验证处理的结果为验证通过,则将所述中间预测模型记为图像相似度预测模型。
其中,所述图像相似度预测模型由输入层、卷积层、池化层、全连接层和输出层构成,所述输出层采用激活函数:
算出相似度值Sim;其中,p、k、a和b为输出层的参数,Qi为经由输入层、卷积层、池化层和全连接层处理得到的对应于第一差值图像的第一向量的第i个分向量,Wi为经由输入层、卷积层、池化层和全连接层处理得到的对应于第二差值图像的第二向量的第i个分向量,第一向量和第二向量均具有n个分向量。
本申请提供一种基于多终端间隔式直连的控制信号传输系统,包括:
第一直接通信连接建立单元,用于服务器向控制终端展示可选的多个第一终端,再确定控制终端选择的指定第一终端,建立控制终端与指定第一终端的第一直接通信连接,判断所述第一直接通信连接是否存在网络延迟;其中,所述指定第一终端用于控制预设的第一物品抓取机器;
真实距离判断单元,用于若所述第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离,并判断所述真实距离是否大于预设的距离阈值;
第一基础图像采集单元,用于若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像;
第一紫外闪光灯开启单元,用于控制预设的第一紫外闪光灯与第一红外闪光灯开启,以将紫外线和红外线同时照射第一物品抓取机器的内部;其中,第一物品抓取机器还被可见光照射;第一物品抓取机器内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色;第二颜色与第四颜色不同;
第一混合图像采集单元,用于控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像;
第二终端确定单元,用于根据与控制终端的距离小于预设的距离阈值的规则,确定多个第二终端;其中,第二终端用于控制预设的第二物品抓取机器;
第二紫外闪光灯开启单元,用于控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,以将紫外线和红外线同时照射多个第二物品抓取机器的内部,并且保证所述多个第二物品抓取机器均未被可见光照射;控制预设的多个第二图像传感器,对所述多个第二物品抓取机器的内部分别进行图像采集处理,以得到多个第二差值图像;
图像对建立单元,用于建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值;其中,每个图像对均包括一个第一差值图像和一个第二差值图像,所述图像相似度预测模型基于深度卷积神经网络模型训练而成;
相似度阈值判断单元,用于判断所述多个相似度值中的最大相似度值是否大于预设的相似度阈值;
指定第二终端获取单元,用于若最大相似度值大于预设的相似度阈值,则根据相似度值-图像对-第二差值图像-第二物品抓取机器-第二终端的对应关系,获取与所述最大相似度值对应的指定第二终端;
第二直接通信连接转换单元,用于进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接。
本申请提供一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述方法的步骤。
本申请提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的方法的步骤。
本申请的基于多终端间隔式直连的控制信号传输方法、系统、计算机设备和存储介质,建立控制终端与指定第一终端的第一直接通信连接;若第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离;若真实距离大于预设的距离阈值,则得到第一基础图像;控制预设的第一紫外闪光灯与第一红外闪光灯开启;得到第一混合图像;得到第一差值图像;确定多个第二终端;控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,得到多个第二差值图像;建立多个图像对,输入预设的图像相似度预测模型中,以得到多个相似度值;若最大相似度值大于预设的相似度阈值,则获取与所述最大相似度值对应的指定第二终端;进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接,解决了网络延迟的问题。
具体地,相对于普通的远距离控制信号传输方案,本申请的网络延迟得到的有效抑制,并且本申请采用的方案与传统方案在本质上是不同的,这是因为,本申请存在多个物品抓取机器分布在各地(有近距离的也有远距离的),而传统方案对于远距离通信的终端是无法更换的,因此一旦更换远距离通信的终端,其控制对象也相应发生了变化,这是不可接受的。而本申请在更换远距离通信的终端后,对于控制终端及其使用者而言,其面对的仍是相同的受控终端(即指定第二终端及其对应的物品抓取机器),因此对其而言,控制对象可视为未发生变化。
进一步地,如上述可知,本申请是依据多终端间隔式直连技术(即将远距离的受控终端切换为近距离的受控终端)实现的,其中需要保证的是切换的高速高效,因此普通的终端间对比方案不适用(准确来说,是普通的图像对比方案不适用),这是因为,若采用低速低效地终端间对比方案,则可能两个受控终端间相对应的物品抓取机器中的被抓取物品的布局已发生变化,从而得到两个受控终端又不相互匹配了,这是本申请的一个特点,因为本申请的物品抓取机器中的被抓取物品的布局是会受控制信号而发生变化的,而传统方案的远距离通信,不会出现这种情况。因此本申请采用了在指定位置涂有特别涂料的被抓取物品的方式,以使得图像相似度预测更快更准确,从而使得受控终端间的高速高效切换成为了可能。并且,这种方案能够与算法上的优化进行叠加,从而优化效果更好。
附图说明
图1 为本申请一实施例的基于多终端间隔式直连的控制信号传输方法的流程示意图;
图2 为本申请一实施例的基于多终端间隔式直连的控制信号传输系统的结构示意框图;
图3 为本申请一实施例的计算机设备的结构示意框图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
参照图1,本申请实施例提供一种基于多终端间隔式直连的控制信号传输方法,包括以下步骤:
S1、服务器向控制终端展示可选的多个第一终端,再确定控制终端选择的指定第一终端,建立控制终端与指定第一终端的第一直接通信连接,判断所述第一直接通信连接是否存在网络延迟;其中,所述指定第一终端用于控制预设的第一物品抓取机器;
S2、若所述第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离,并判断所述真实距离是否大于预设的距离阈值;
S3、若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像;
S4、控制预设的第一紫外闪光灯与第一红外闪光灯开启,以将紫外线和红外线同时照射第一物品抓取机器的内部;其中,第一物品抓取机器还被可见光照射;第一物品抓取机器内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色;第二颜色与第四颜色不同;
S5、控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像;
S6、根据与控制终端的距离小于预设的距离阈值的规则,确定多个第二终端;其中,第二终端用于控制预设的第二物品抓取机器;
S7、控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,以将紫外线和红外线同时照射多个第二物品抓取机器的内部,并且保证所述多个第二物品抓取机器均未被可见光照射;控制预设的多个第二图像传感器,对所述多个第二物品抓取机器的内部分别进行图像采集处理,以得到多个第二差值图像;
S8、建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值;其中,每个图像对均包括一个第一差值图像和一个第二差值图像,所述图像相似度预测模型基于深度卷积神经网络模型训练而成;
S9、判断所述多个相似度值中的最大相似度值是否大于预设的相似度阈值;
S10、若最大相似度值大于预设的相似度阈值,则根据相似度值-图像对-第二差值图像-第二物品抓取机器-第二终端的对应关系,获取与所述最大相似度值对应的指定第二终端;
S11、进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接。
本申请中,多终端间隔式直连,其中包括制终端与指定第一终端的第一直接通信连接,制终端与指定第二终端的第二直接通信连接,以及服务器与控制终端之间的通信连接。其中直连,指的是直接通信连接,这是相对于服务器而言的,因为存在一种间接信号连接的方式,即控制终端将控制信号发送给服务器,服务器再将控制信号发送给受控终端,而本申请需要尽可能地抑制网络延迟,因此不能采用这种间接信号连接的方式。
但是,服务器仍能够与每个终端保持通信连接,以获取相当的信号。间隔式直连中,间隔式的意思包括,前一段时间中,控制终端与指定第一终端直接连接,间隔一段时间后,控制终端与指定第二终端直接连接。
本申请中的控制终端例如为个人PC端、移动终端、笔记本终端、掌上电脑终端等等,在此不作限制。受控终端,即第一终端和第二终端,是用于分别控制对应的物品抓取机器的终端,其与物品抓取机器存在一一对应的关系。而物品抓取机器例如为抓娃娃机、抓盲盒机等,也即是说中,本申请将传统的只能在线下进行的抓娃娃的方式,转变为了可以在线上进行。而物品抓取机器与线下进行的娃娃机本质上没有区别,当然,其控制信号自然从控制杆输入变成了来自于控制终端。
在此需要提及,本申请得以实施的一个缘由。本申请中物品抓取机器,例如为抓娃娃机,其数量是惊人的,假设在线同时存在n个用户进行控制,则至少需要n个不同的物品抓取机器进行对应,而这么多物品抓取机器中,会存在部分相似或相同摆放的情况(指机器内部的被抓取物品的布设相同或相似),但不会出现所有或者大部分物品抓取机器都相同的情况,这是因为不同的控制信号将导致娃娃的位置发生变化,而这种变化是难以预测的,但在大样本的情况下,大概率存在相同或相似摆放的情况。
而控制终端会选择远距离的受控的第一终端,其原因可能为,其意图将抓取的物品送给当地的朋友,例如在海南的用户,想将抓取的娃娃就地送给在哈尔滨的朋友,而若是选择在海南的娃娃机,则需要再将娃娃寄送至哈尔滨,因此其更倾向于选择处于哈尔滨的娃娃机。当然,也可能是其他原因,在此只是介绍选择远距离物品抓取机器的一种原因。另外,上述举例只是将哈尔滨与海南作为远距离的一个例子,实际上甚至可以更远,例如跨过大洋等等,从而使得本申请更具实施意义。
本申请中的控制信号,指的是控制受控终端对应的物品抓取机器的信号,例如控制娃娃机的机械手左移、右移、下降抓取等动作。由于娃娃机的抓取与操作者的技术息息相关,甚至于有一些复杂的操作需要精细操作,例如通过回旋机械手(通过控制机械手的左右前后移动来实现),使得机械手能够进行旋转惯性运动,从而提高抓取概率。而这种特殊的控制信号,会受网络延迟的极大影响,这也是本申请的实施的原因之一,也是传统的远距离控制信号传输不会遇到的问题。
如上述步骤S1-S3所述,服务器向控制终端展示可选的多个第一终端,再确定控制终端选择的指定第一终端,建立控制终端与指定第一终端的第一直接通信连接,判断所述第一直接通信连接是否存在网络延迟;其中,所述指定第一终端用于控制预设的第一物品抓取机器;若所述第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离,并判断所述真实距离是否大于预设的距离阈值;若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像。
展示可选的多个第一终端,可以采用任意可行方式展示,例如展示多个第一终端对应的第一物品抓取机器的当前景象,这能够使用户选择一个喜欢的机器进行抓取控制操作。另外,控制终端在建立直接通信连接后,将获取对应的物品抓取机器的图像,例如在建立控制终端与指定第一终端的第一直接通信连接,能够获取第一物品抓取机器的图像;在建立控制终端与指定第二终端的第二直接通信连接,能够获取第二物品抓取机器的图像。当然,在建立直接通信连接后,也必然会接收对应的控制信号。
进一步地,判断所述第一直接通信连接是否存在网络延迟,优选在保持第一直接通信连接一段时间后,并且,优选在控制终端未输出控制信号的那个时间窗口内(这个时间窗口很窄)。这是为了使得两个直接通信连接的切换前后,对于用户及控制终端而言,其不会感受到切换后的差异。(因为切换前后,物品抓取机器内的被抓取物品的布设是相似的)。
判断所述第一直接通信连接是否存在网络延迟,是本申请实施的条件之一,因为若不存在网络延迟(实际上就是指网络延迟小于预设阈值,这是通用的描述,因为从最严谨的描述而言,理论上任何信号传输必然存在延迟),则表明纵使是远距离控制信号的传输,但不会有负面影响,因此无需实施本申请的方案。
本申请实施的另一条件为,判断真实距离的大小,即计算所述控制终端与所述指定第一终端间的真实距离,并判断所述真实距离是否大于预设的距离阈值。其中真实距离指现实空间内的距离,例如控制终端的真实地址在海南,而指定第一终端的真实地址在北京,那么真实距离就是这两地之间的距离。而本申请根据判断所述真实距离是否大于预设的距离阈值,来衡量其是否属于远距离通信。这是因为远距离通信是造成网络延迟的一个重要原因,而本申请就是为了解决远距离通信是造成网络延迟的问题而实施的。所述距离阈值可根据实际需要设置,在此不作限制。
在所述真实距离大于预设的距离阈值的前提下,先进行图像采集处理,从而得到第一基础图像。此时的第一基础图像是仅在可见光照射下时采集的。之所以要强调可见光,这是需要与后续的紫外光与红外光做出区分,这也是本申请的一个特点。而本申请的图像传感器是只能对可见光进行感应的传感器,例如为可见光摄像头。此时的第一基础图像反应的是第一物品抓取机器的内部的被抓取物品的摆放状况。
如上述步骤S4-S6所述,控制预设的第一紫外闪光灯与第一红外闪光灯开启,以将紫外线和红外线同时照射第一物品抓取机器的内部;其中,第一物品抓取机器还被可见光照射;第一物品抓取机器内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色;第二颜色与第四颜色不同;控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像;根据与控制终端的距离小于预设的距离阈值的规则,确定多个第二终端;其中,第二终端用于控制预设的第二物品抓取机器。
本申请中,每个物品抓取机器均设置有可见光光源、紫外光光源和红外光光源,对于用户及控制终端而言,当进行正常的控制时,只需要可见光光源即可,因为可见光光源条件下,图像采集器采集到的图像足以提供给用户以便于用户进行相应控制操作。但是,本申请还引入了紫外闪光灯与红外闪光灯,其目的在于,使得终端间的相似度判断,或者说物品抓取机器间的相似度判断更为高效快捷。若采用仅在可见光光源下的基础图像作为判断物品抓取机器的依据,则由于基础图像中的信息更多,从而服务器需要耗费的算力与时间均对应增加,因此不利于间隔式直连的切换。或者说,若采用基础图像作为判断依据,很可能出现一种情况:当服务器找出与指定第一终端相似的指定第二终端时,指定第一终端对应的第一物品抓取机器的内部景象已经发生了改变,此时再进行直连切换是很不合适的,因为用户在切换的前后,将看到不同的景象。因此,本申请采用特殊的方式以提高相似终端的判断速度是必要的。
而本申请能够实现终端相似度的高速分析,其原因在于,采用了第一涂料与第二涂料的方式。第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色,其是能够光子转换的方式实现的,其基于能带理论的原理实现。第一涂料例如为马来酸酐共聚物基树脂或者稀土基掺杂化合物等其他的光线转换材料,其具有特别的能带结构,其电子在基态下能够吸收紫外光而跃迁至高能级(因为基态的能级与某一个高能级之间的能级差正好匹配紫外光波长),而由于高能级的电子不稳定,将向下跃迁,而在跃迁的过程中,由于能级间的差值正好匹配于第二颜色的可见光的波长,因此向下跃迁的过程将发射出第二颜色的可见光,这就是第一涂料在被可见光照射时呈第一颜色(通过与其他涂料进行混合,能够轻易实现在可见光下的颜色调节),在被紫外光照射时呈第二颜色的原因(即能够将短波长的光转为长波长的光)。其第一颜色可为任意颜色,优选与被抓取物品本身颜色相同;第二颜色也可为任意颜色,例如为蓝光、黄光、绿光等。
并且,第一涂料与第二涂料可以涂在包裹在被抓取物品的外包装上,例如为塑料纸上,从而不从影响被抓物品的后续使用。
第二涂料例如也为基于能带理论的材料制成,但有一定的区别,其区别在于,其是将长波长的光转化为短波长的光,其材料例如为掺杂尤其是高掺杂稀土元素的化合物,例如掺杂Er元素的氟氧基类化合物。其原理具体为,其能带结构中,基态与某一个能级间的能级差匹配于一个红外光的波长,而该能级与另一更高能级之间的能级差正好匹配另一个红外光的波长,因此能够连续向上跃迁至一个较高的能级。而该高能级与某个低能级之间的能级差正好匹配某个颜色的可见光的波长,因此就能够实现吸收红外光而发射出可见光。因此,这是与吸收紫外光发射出可见光完全相反的。
而第四颜色必须与第二颜色相反,这样有利于对被抓取物品的位置与姿态的快速辨别。而第一颜色与第三颜色优选为相同的颜色,例如为被抓取物品的原来颜色来同。所述第一指定位置可为任意可行位置,例如为娃娃的鼻子、嘴巴、眼睛等,所述第二指定位置也可为任意可行位置,例如为四肢、肚脐、尾巴等。
因此,在第一紫外闪光灯与第一红外闪光灯开启后,再控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到的第一混合图像,将呈现混合颜色。其中的混合指的是,由第一颜色、第二颜色、第三颜色、第四颜色以及被抓取物品本身颜色构成的图像。另外,需要强调的是,本申请不能关闭可见光光源,因为此时的第一物品抓取机器是处于用户的控制中的,用户需要有足够的图像信息,因此可见光光源必不可少,这也是第一物品抓取机器还被可见光照射的原因。
再将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像。若将混合图像本身作为分析依据,其由于有过多的不必要信息,例如背景颜色、机器外壳等等景物的影响,不利于服务器进行被抓取物品的位置和姿态的分析。因此,本申请生成第一差值图像,以提高分析速度。此时,第一差值图像实际上已经摒弃了可见光光源的影响,其中显示的应当为仅由第二颜色和第四颜色构成的图像。而第二颜色代表的是指定第一位置,而第四颜色代表的是指定第二位置,因此分析被抓取物品的位置与姿态要容易的多且速度快的多。
再根据与控制终端的距离小于预设的距离阈值的规则,确定多个第二终端;其中,第二终端用于控制预设的第二物品抓取机器。而第二终端即是近距离终端,例如控制终端在海南,第一终端在北京,而第二终端也为海南。这样,若能够将第一终端的直接通信连接,切换为第二终端的直接通信连接,就能够克服由于距离而产生的网络延迟了。
如上述步骤S7-S11所述,控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,以将紫外线和红外线同时照射多个第二物品抓取机器的内部,并且保证所述多个第二物品抓取机器均未被可见光照射;控制预设的多个第二图像传感器,对所述多个第二物品抓取机器的内部分别进行图像采集处理,以得到多个第二差值图像;建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值;其中,每个图像对均包括一个第一差值图像和一个第二差值图像,所述图像相似度预测模型基于深度卷积神经网络模型训练而成;判断所述多个相似度值中的最大相似度值是否大于预设的相似度阈值;若最大相似度值大于预设的相似度阈值,则根据相似度值-图像对-第二差值图像-第二物品抓取机器-第二终端的对应关系,获取与所述最大相似度值对应的指定第二终端;进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接。
第二紫外闪光灯、第二红外闪光灯的设置与第一紫外闪光灯、第一红外闪光灯分别对应相同。并且多个第二紫外闪光灯与多个第二红外闪光灯的数量对应相等,并且等于多个第二物品抓取机器的数量。第二物品抓取机器的内部均设置有多个被抓取物品,并且其类型与第一物品抓取机器的内部的多个被抓取物品类型相同。
另外,对于第二物品抓取机器的内部进行图像采集时,需要保证第二物品抓取机器的内部未被可见光照射。这点的设计也有其特色。一般而言,所有机器均应在可见光的照射下,但是,本申请中的第二物品抓取机器的选取,还具有一个隐藏条件,即其不应当被控制,也就是说,其没有对应的控制终端,因此其不需要提供第二物品抓取机器的内部图像给对应的用户,所以第二物品抓取机器的内部可以不被可见光照射。因此,第二物品抓取机器与第一物品抓取机器之间,存在这点区别,而这点区别是尤为重要的,因为基于这点区别,本申请对于第二物品抓取机器,可以不采集基础图像和混合图像,却能够直接得到差值图像。这是因为,差值图像的本质是,图像传感器感测到的,由紫外光和红外光激发得到的可见光。因此,对所述多个第二物品抓取机器的内部分别进行图像采集处理,可以直接得到多个第二差值图像,而不需要对图像的各个像素点进行差值处理。这又进一步提高了处理速度,对于整体方案的通信连接切换处理有利。
由于第一差值图像,应当与每一个第二差值图像进行对比,因此建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值;其中,每个图像对均包括一个第一差值图像和一个第二差值图像,所述图像相似度预测模型基于深度卷积神经网络模型训练而成。本申请的图像相似度预测模型基于深度卷积神经网络模型训练而成,是利用了深度卷积神经网络模型对于图像数据的处理具有优势的特性,其能够将图像的特征提取出来,并加以一一比对。从而能够得到准确的相似度比较结果。
而当最大相似度值大于预设的相似度阈值时,则表明存在一个第二物品抓取机器与指定第一物品抓取机器相似,因此可以进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接。此时,对于用户而言,在进行通信连接切换处理之前,其看到的是第一物品抓取机器的图像;在进行通信连接切换处理之后,其看到的是第二物品抓取机器的图像,而第一物品抓取机器的图像与第二物品抓取机器的图像是相似的,因此用户不会发现区别,可以继续按原有思路进行物品抓取的过程,然而由于远距离带来的网络延迟的问题被有效解决了。而用户抓取的娃娃,可以通过置换的方式,置换至远方的物品抓取机处。
例如,在指定第二物品抓取机器抓到了一个娃娃,那么将指定第一物品抓取机器对应的娃娃(由于两个机器的物品位置是相对应的,因此进行各个娃娃间存在对应关系)取下作为用户抓到的娃娃即可。而用户可以将远距离抓取的娃娃寄给当地的朋友。
另外,本申请之所以不采用直接在被抓取物品的表面直接涂上具有特别颜色的涂料,这是为了避免对于用户的干扰,因为在本申请的方案中,第一涂料和第二涂料在可见光环境下,不会出现异常颜色,从而不会显得突兀,而在紫外光和红外光的条件下进行图像采集时,仅仅是一瞬间,对于用户的干扰也有限,并且可以在给予用户的图像时,将这部分图像进行删除处理。
其中,所述第二物品抓取机器的内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色。
从而所有的物品抓取机器内的被抓取物品都是相同的,因此能够采用相同的方式进行采集、判断。有利于处理结果的一致性。
在一个实施方式中,所述若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像的步骤S3之后,包括:
S31、将所述第一基础图像同时传输至所述控制终端;
所述控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像的步骤S5之后,包括:
S51、将所述第一混合图像同时传输至所述控制终端;
所述第一图像传感器相对于所述第一物品抓取机器的第一相对位置,与所述第二图像传感器相对于所述第二物品抓取机器的第二相对位置相同;
所述第一图像传感器和所述第二图像传感器均仅能够感测到可见光信号。
从而使得用户能够通过控制终端实现不间断地控制,提升控制的连贯性。并且由于不同物品抓取机器中的各种设施均对应相同,例如传感器的位置对应相同,因此采集到的数据的可比比性就得到了提高,最后相似判断的可信程度也得到了提高。
在一个实施方式中,所述建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值的步骤S8之前,包括:
S71、对预设的样本物品抓取机器内的被抓取物品进行多次位置调整,并在每次位置调整后均采用图像传感器进行图像采集处理,以得到多幅样本图像;其中,所述样本物品抓取机器内的被抓取物品的第一指定位置涂有第三涂料,第二指定位置涂有第四涂料,除所述第一指定位置与所述第二指定位置的其他位置均涂有第五涂料;所述第三涂料在可见光下呈第二颜色,所述第四涂料在可见光下呈第四颜色,所述第五涂料在可见光下呈第五颜色,所述第五颜色不同于所述第二颜色和所述第四颜色;
S72、对所述多幅样本图像进行人工配对,以生成多个相似图像对与多个不相似图像对;其中,每个相似图像对和每个不相似图像对均人工标注有相似程度值;
S73、按预设比例对所述多个相似图像对与所述多个不相似图像对进行划分,从而得到多个训练用图像对与多个验证用图像对;其中,所述多个训练用图像对中的相似图像对的占比为0.5,等于所述多个验证用图像对中的相似图像对的占比为0.5;
S74、调取预设的深度卷积神经网络模型,并将所述多个训练用图像对输入深度卷积神经网络模型中进行训练,以得到中间预测模型;其中,训练过程中采用反向传播算法进行网络参数的更新;
S75、采用所述多个验证用图像对所述中间预测模型进行验证处理,并判断验证处理的结果是否为验证通过;
S76、若验证处理的结果为验证通过,则将所述中间预测模型记为图像相似度预测模型。
从而获取能够胜任图像相似度预测的图像相似度预测模型。其中,训练过程可以采用反向传播算法来更新各层神经网络的参数,这有利于多层网络神经的训练。本申请中,训练数据的采集是一个特别的地方。一般神经网络模型的训练采用的样本数据,会与其实际应用时的真实数据相同,而本申请中的真实数据需要在紫外光和红外光的条件下采集得到。但是本申请为了提高训练数据的采集速度,采用了非紫外光和红外光的条件下,采集得到具有相同效果的样本数据。
具体要求是,被抓取物品的第一指定位置涂有第三涂料,第二指定位置涂有第四涂料,除所述第一指定位置与所述第二指定位置的其他位置均涂有第五涂料;所述第三涂料在可见光下呈第二颜色,所述第四涂料在可见光下呈第四颜色,所述第五涂料在可见光下呈第五颜色,所述第五颜色不同于所述第二颜色和所述第四颜色。
在这种条件下,得到的样本数据虽然与在紫外光和红外光条件下采集到的仍有一点差异,但已经能够将指定第一位置和指定第二位置突显出来,从而提高了样本数据的数量,而实施成本却有所下降。并且,训练过程时,采用的训练数据集,即所述多个训练用图像对,其中的相似图像对的占比为0.5,因此不相似图像对的占比也为0.5,对应地,验理论上数据集也具有相同的占比,从而对于模型的鲁棒性有利。另外,每个相似图像对和每个不相似图像对均人工标注有相似程度值,从而最终训练得到的模型能够输出相似度值。
进一步地,所述图像相似度预测模型由输入层、卷积层、池化层、全连接层和输出层构成,所述输出层采用激活函数:
以输出相似度值Sim;其中,p、k、a和b为输出层的参数,Qi为经由输入层、卷积层、池化层和全连接层处理得到的对应于第一差值图像的第一向量的第i个分向量,Wi为经由输入层、卷积层、池化层和全连接层处理得到的对应于第二差值图像的第二向量的第i个分向量,第一向量和第二向量均具有n个分向量。
本申请与普通的深度卷积模型相比,本申请是用于预测相似度的,因此采用的输出层的激活函数是特制函数,这与普通模型的激活函数有本质区别。本申请的激活函数的输出越大(通过控制p、k、a和b,输出的最大值为1),则表示越相似,越小(即越接近于0),则表示越不相似。采用的这种激活函数,考虑到了第一向量与第二向量间的数值差别,也考虑到了第一向量与第二向量间的角度差别,从而提高了准确性。
并且,输入的第一差值图像和第二差值图像,都将经过输入层、卷积层、池化层和全连接层的处理,从而生成两个具有相同分向量数量的同维度向量。
本申请的基于多终端间隔式直连的控制信号传输方法,建立控制终端与指定第一终端的第一直接通信连接;若第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离;若真实距离大于预设的距离阈值,则得到第一基础图像;控制预设的第一紫外闪光灯与第一红外闪光灯开启;得到第一混合图像;得到第一差值图像;确定多个第二终端;控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,得到多个第二差值图像;建立多个图像对,输入预设的图像相似度预测模型中,以得到多个相似度值;若最大相似度值大于预设的相似度阈值,则获取与所述最大相似度值对应的指定第二终端;进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接,解决了网络延迟的问题。
参照图2,本申请实施例提供一种基于多终端间隔式直连的控制信号传输系统,包括:
第一直接通信连接建立单元10,用于服务器向控制终端展示可选的多个第一终端,再确定控制终端选择的指定第一终端,建立控制终端与指定第一终端的第一直接通信连接,判断所述第一直接通信连接是否存在网络延迟;其中,所述指定第一终端用于控制预设的第一物品抓取机器;
真实距离判断单元20,用于若所述第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离,并判断所述真实距离是否大于预设的距离阈值;
第一基础图像采集单元30,用于若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像;
第一紫外闪光灯开启单元40,用于控制预设的第一紫外闪光灯与第一红外闪光灯开启,以将紫外线和红外线同时照射第一物品抓取机器的内部;其中,第一物品抓取机器还被可见光照射;第一物品抓取机器内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色;第二颜色与第四颜色不同;
第一混合图像采集单元50,用于控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像;
第二终端确定单元60,用于根据与控制终端的距离小于预设的距离阈值的规则,确定多个第二终端;其中,第二终端用于控制预设的第二物品抓取机器;
第二紫外闪光灯开启单元70,用于控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,以将紫外线和红外线同时照射多个第二物品抓取机器的内部,并且保证所述多个第二物品抓取机器均未被可见光照射;控制预设的多个第二图像传感器,对所述多个第二物品抓取机器的内部分别进行图像采集处理,以得到多个第二差值图像;
图像对建立单元80,用于建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值;其中,每个图像对均包括一个第一差值图像和一个第二差值图像,所述图像相似度预测模型基于深度卷积神经网络模型训练而成;
相似度阈值判断单元90,用于判断所述多个相似度值中的最大相似度值是否大于预设的相似度阈值;
指定第二终端获取单元100,用于若最大相似度值大于预设的相似度阈值,则根据相似度值-图像对-第二差值图像-第二物品抓取机器-第二终端的对应关系,获取与所述最大相似度值对应的指定第二终端;
第二直接通信连接转换单元110,用于进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接。
其中上述单元分别用于执行的操作与前述实施方式的基于多终端间隔式直连的控制信号传输方法的步骤一一对应,在此不再赘述。
本申请的基于多终端间隔式直连的控制信号传输系统,建立控制终端与指定第一终端的第一直接通信连接;若第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离;若真实距离大于预设的距离阈值,则得到第一基础图像;控制预设的第一紫外闪光灯与第一红外闪光灯开启;得到第一混合图像;得到第一差值图像;确定多个第二终端;控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,得到多个第二差值图像;建立多个图像对,输入预设的图像相似度预测模型中,以得到多个相似度值;若最大相似度值大于预设的相似度阈值,则获取与所述最大相似度值对应的指定第二终端;进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接,解决了网络延迟的问题。
参照图3,本发明实施例中还提供一种计算机设备,该计算机设备可以是服务器,其内部结构可以如图所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设计的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储基于多终端间隔式直连的控制信号传输方法所用数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于多终端间隔式直连的控制信号传输方法。
上述处理器执行上述基于多终端间隔式直连的控制信号传输方法,其中所述方法包括的步骤分别与执行前述实施方式的基于多终端间隔式直连的控制信号传输方法的步骤一一对应,在此不再赘述。
本领域技术人员可以理解,图中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定。
本申请的计算机设备,建立控制终端与指定第一终端的第一直接通信连接;若第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离;若真实距离大于预设的距离阈值,则得到第一基础图像;控制预设的第一紫外闪光灯与第一红外闪光灯开启;得到第一混合图像;得到第一差值图像;确定多个第二终端;控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,得到多个第二差值图像;建立多个图像对,输入预设的图像相似度预测模型中,以得到多个相似度值;若最大相似度值大于预设的相似度阈值,则获取与所述最大相似度值对应的指定第二终端;进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接,解决了网络延迟的问题。
本申请一实施例还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现基于多终端间隔式直连的控制信号传输方法,其中所述方法包括的步骤分别与执行前述实施方式的基于多终端间隔式直连的控制信号传输方法的步骤一一对应,在此不再赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、系统、物品或者方法不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、系统、物品或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、系统、物品或者方法中还存在另外的相同要素。
以上所述仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (8)
1.一种基于多终端间隔式直连的控制信号传输方法,其特征在于,包括:
S1、服务器向控制终端展示可选的多个第一终端,再确定控制终端选择的指定第一终端,建立控制终端与指定第一终端的第一直接通信连接,判断所述第一直接通信连接是否存在网络延迟;其中,所述指定第一终端用于控制预设的第一物品抓取机器;
S2、若所述第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离,并判断所述真实距离是否大于预设的距离阈值;
S3、若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像;
S4、控制预设的第一紫外闪光灯与第一红外闪光灯开启,以将紫外线和红外线同时照射第一物品抓取机器的内部;其中,第一物品抓取机器还被可见光照射;第一物品抓取机器内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色;第二颜色与第四颜色不同;
S5、控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像;
S6、根据与控制终端的距离小于预设的距离阈值的规则,确定多个第二终端;其中,第二终端用于控制预设的第二物品抓取机器;
S7、控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,以将紫外线和红外线同时照射多个第二物品抓取机器的内部,并且保证所述多个第二物品抓取机器均未被可见光照射;控制预设的多个第二图像传感器,对所述多个第二物品抓取机器的内部分别进行图像采集处理,以得到多个第二差值图像;
S8、建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值;其中,每个图像对均包括一个第一差值图像和一个第二差值图像,所述图像相似度预测模型基于深度卷积神经网络模型训练而成;
S9、判断所述多个相似度值中的最大相似度值是否大于预设的相似度阈值;
S10、若最大相似度值大于预设的相似度阈值,则根据相似度值-图像对-第二差值图像-第二物品抓取机器-第二终端的对应关系,获取与所述最大相似度值对应的指定第二终端;
S11、进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接。
2.根据权利要求1所述的基于多终端间隔式直连的控制信号传输方法,其特征在于,所述第二物品抓取机器的内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色。
3.根据权利要求1所述的基于多终端间隔式直连的控制信号传输方法,其特征在于,所述若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像的步骤S3之后,包括:
S31、将所述第一基础图像同时传输至所述控制终端;
所述控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像的步骤S5之后,包括:
S51、将所述第一混合图像同时传输至所述控制终端;
所述第一图像传感器相对于所述第一物品抓取机器的第一相对位置,与所述第二图像传感器相对于所述第二物品抓取机器的第二相对位置相同;
所述第一图像传感器和所述第二图像传感器均仅能够感测到可见光信号。
4.根据权利要求1所述的基于多终端间隔式直连的控制信号传输方法,其特征在于,所述建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值的步骤S8之前,包括:
S71、对预设的样本物品抓取机器内的被抓取物品进行多次位置调整,并在每次位置调整后均采用图像传感器进行图像采集处理,以得到多幅样本图像;其中,所述样本物品抓取机器内的被抓取物品的第一指定位置涂有第三涂料,第二指定位置涂有第四涂料,除所述第一指定位置与所述第二指定位置的其他位置均涂有第五涂料;所述第三涂料在可见光下呈第二颜色,所述第四涂料在可见光下呈第四颜色,所述第五涂料在可见光下呈第五颜色,所述第五颜色不同于所述第二颜色和所述第四颜色;
S72、对所述多幅样本图像进行人工配对,以生成多个相似图像对与多个不相似图像对;其中,每个相似图像对和每个不相似图像对均人工标注有相似程度值;
S73、按预设比例对所述多个相似图像对与所述多个不相似图像对进行划分,从而得到多个训练用图像对与多个验证用图像对;其中,所述多个训练用图像对中的相似图像对的占比为0.5,等于所述多个验证用图像对中的相似图像对的占比为0.5;
S74、调取预设的深度卷积神经网络模型,并将所述多个训练用图像对输入深度卷积神经网络模型中进行训练,以得到中间预测模型;其中,训练过程中采用反向传播算法进行网络参数的更新;
S75、采用所述多个验证用图像对所述中间预测模型进行验证处理,并判断验证处理的结果是否为验证通过;
S76、若验证处理的结果为验证通过,则将所述中间预测模型记为图像相似度预测模型。
6.一种基于多终端间隔式直连的控制信号传输系统,其特征在于,包括:
第一直接通信连接建立单元,用于服务器向控制终端展示可选的多个第一终端,再确定控制终端选择的指定第一终端,建立控制终端与指定第一终端的第一直接通信连接,判断所述第一直接通信连接是否存在网络延迟;其中,所述指定第一终端用于控制预设的第一物品抓取机器;
真实距离判断单元,用于若所述第一直接通信连接存在网络延迟,则计算所述控制终端与所述指定第一终端间的真实距离,并判断所述真实距离是否大于预设的距离阈值;
第一基础图像采集单元,用于若所述真实距离大于预设的距离阈值,则控制预设的第一图像传感器,以仅在可见光照射的前提下对第一物品抓取机器的内部进行图像采集处理,从而得到第一基础图像;
第一紫外闪光灯开启单元,用于控制预设的第一紫外闪光灯与第一红外闪光灯开启,以将紫外线和红外线同时照射第一物品抓取机器的内部;其中,第一物品抓取机器还被可见光照射;第一物品抓取机器内部布设有多个被抓取物品,每个被抓取物品的第一指定位置涂有第一涂料,第二指定位置涂有第二涂料;第一涂料在被可见光照射时呈第一颜色,在被紫外光照射时呈第二颜色;第二涂料在被可见光照射时呈第三颜色,在被红外光照射时呈第四颜色;第二颜色与第四颜色不同;
第一混合图像采集单元,用于控制预设的第一图像传感器,对第一物品抓取机器的内部进行图像采集处理,以得到第一混合图像;将第一混合图像中各个像素点的色值,对应减去第一基础图像各个像素点的色值,以得到第一差值图像;
第二终端确定单元,用于根据与控制终端的距离小于预设的距离阈值的规则,确定多个第二终端;其中,第二终端用于控制预设的第二物品抓取机器;
第二紫外闪光灯开启单元,用于控制预设的多个第二紫外闪光灯与多个第二红外闪光灯开启,以将紫外线和红外线同时照射多个第二物品抓取机器的内部,并且保证所述多个第二物品抓取机器均未被可见光照射;控制预设的多个第二图像传感器,对所述多个第二物品抓取机器的内部分别进行图像采集处理,以得到多个第二差值图像;
图像对建立单元,用于建立多个图像对,并将所述多个图像对依次输入预设的图像相似度预测模型中,以得到多个相似度值;其中,每个图像对均包括一个第一差值图像和一个第二差值图像,所述图像相似度预测模型基于深度卷积神经网络模型训练而成;
相似度阈值判断单元,用于判断所述多个相似度值中的最大相似度值是否大于预设的相似度阈值;
指定第二终端获取单元,用于若最大相似度值大于预设的相似度阈值,则根据相似度值-图像对-第二差值图像-第二物品抓取机器-第二终端的对应关系,获取与所述最大相似度值对应的指定第二终端;
第二直接通信连接转换单元,用于进行通信连接切换处理,以将所述第一直接通信连接,转换为所述控制终端与所述指定第二终端之间的第二直接通信连接。
7.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至5中任一项所述方法的步骤。
8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至5中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111148735.5A CN113591833B (zh) | 2021-09-29 | 2021-09-29 | 一种基于多终端间隔式直连的控制信号传输方法与系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111148735.5A CN113591833B (zh) | 2021-09-29 | 2021-09-29 | 一种基于多终端间隔式直连的控制信号传输方法与系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113591833A true CN113591833A (zh) | 2021-11-02 |
CN113591833B CN113591833B (zh) | 2021-12-07 |
Family
ID=78242763
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111148735.5A Active CN113591833B (zh) | 2021-09-29 | 2021-09-29 | 一种基于多终端间隔式直连的控制信号传输方法与系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113591833B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB201320538D0 (en) * | 2013-11-21 | 2014-01-01 | Ibm | Target identification for sending content from a mobile device |
CN112784654A (zh) * | 2019-11-11 | 2021-05-11 | 北京君正集成电路股份有限公司 | 一种红外物体检测设备的检测系统 |
CN113307042A (zh) * | 2021-06-11 | 2021-08-27 | 梅卡曼德(北京)机器人科技有限公司 | 基于传送带的物体拆垛方法、装置、计算设备及存储介质 |
-
2021
- 2021-09-29 CN CN202111148735.5A patent/CN113591833B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB201320538D0 (en) * | 2013-11-21 | 2014-01-01 | Ibm | Target identification for sending content from a mobile device |
CN112784654A (zh) * | 2019-11-11 | 2021-05-11 | 北京君正集成电路股份有限公司 | 一种红外物体检测设备的检测系统 |
CN113307042A (zh) * | 2021-06-11 | 2021-08-27 | 梅卡曼德(北京)机器人科技有限公司 | 基于传送带的物体拆垛方法、装置、计算设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
HEENA ET AL: "Night Vision Surveillance: Object Detection using Thermal and Visible Images", 《2020 INTERNATIONAL CONFERENCE FOR EMERGING TECHNOLOGY (INCET)》 * |
位一鸣 等: "基于卷积神经网络的主变压器外观缺陷检测方法", 《浙江电力》 * |
Also Published As
Publication number | Publication date |
---|---|
CN113591833B (zh) | 2021-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107835324B (zh) | 一种背光亮度调节方法及移动终端 | |
US10430707B2 (en) | Information processing device | |
CN110378247A (zh) | 虚拟对象识别方法和装置、存储介质及电子装置 | |
CN108681743A (zh) | 图像对象识别方法和装置、存储介质 | |
CN206075026U (zh) | 一种基于多手势控制的智能家居控制终端 | |
CN110000795A (zh) | 一种视觉伺服控制的方法、系统及设备 | |
CN101504728A (zh) | 一种电子设备的遥控系统及其遥控方法 | |
CN107272424A (zh) | 控制智能家电的方法和设备 | |
CN110505014A (zh) | 数据传输控制方法及相关产品 | |
CN113591833B (zh) | 一种基于多终端间隔式直连的控制信号传输方法与系统 | |
CN110336719A (zh) | 一种实时视频家居环境设备识别交互的远程智能家居控制方法 | |
Peng et al. | Smart home system based on deep learning algorithm | |
CN115562276A (zh) | 路径规划方法、装置、设备及计算机可读存储介质 | |
CN109660741B (zh) | 图像转换方法、系统、装置、遥控器及存储介质 | |
KR102366396B1 (ko) | Rgb-d 데이터와 딥러닝을 이용한 3d객체영역분할 방법과 그 시스템 | |
CN211979681U (zh) | 一种多区域多分类可扩展手势识别控制装置 | |
CN109189264A (zh) | 智能交互设备及其扩展显示方法、存储介质、处理器 | |
CN116466827A (zh) | 一种智能人机交互系统及其方法 | |
US20230326005A1 (en) | Data augmentation for domain generalization | |
CN103679124B (zh) | 手势识别系统及方法 | |
CN108972551B (zh) | 基于机器人危险动作识别和预判的智能控制系统 | |
CN112183271A (zh) | 一种图像处理的方法及装置 | |
CN109729269B (zh) | 一种图像处理方法、终端设备及计算机可读存储介质 | |
CN112949796A (zh) | 一种基于深度学习的混合式病虫害识别装置及方法 | |
CN115515270B (zh) | 基于树莓派的嵌入式智能led调光方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |