CN114019533A - 移动机器人 - Google Patents
移动机器人 Download PDFInfo
- Publication number
- CN114019533A CN114019533A CN202110075965.7A CN202110075965A CN114019533A CN 114019533 A CN114019533 A CN 114019533A CN 202110075965 A CN202110075965 A CN 202110075965A CN 114019533 A CN114019533 A CN 114019533A
- Authority
- CN
- China
- Prior art keywords
- image frame
- period
- light source
- light
- mobile robot
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/005—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 with correlation of navigation data from several sources, e.g. map or contour matching
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
- G01C21/206—Instruments for performing navigational calculations specially adapted for indoor navigation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/46—Indirect determination of position data
- G01S17/48—Active triangulation systems, i.e. using the transmission and reflection of electromagnetic waves other than radio waves
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Computer Networks & Wireless Communication (AREA)
- Automation & Control Theory (AREA)
- Image Processing (AREA)
Abstract
一种移动机器人,根据相同的光传感器所获取的图像帧进行避障、定位及物体识别。该移动机器人包含光传感器、发光二极管、激光二极管和处理器。所述处理器根据所述激光二极管点亮时所述光传感器所获取的图像帧判断障碍物并测距。所述处理器还根据所述发光二极管点亮时所述光传感器所获取的图像帧进行定位及物体识别。
Description
技术领域
本发明涉及一种移动机器人,特别是涉及一种可根据相同的光传感器相对不同光源点亮时所获取的图像帧进行避障、定位及物体识别的移动机器人。
背景技术
智能家居是发展智能城市的其中一环,且清洁机器人已经几乎成为智能家居必备的电子产品之一。一般而言,清洁机器人配置有多种功能以增加使用者经验,包含运行区间的地图构建、运行时的障碍物检测和回避等。目前的清洁机器人同时包含多种检测器来进行这些不同的检测功能。
例如,清洁机器人包含配置于顶面的传感器,通过获取清洁机器人行经路径的上方图像来实现视觉定位与地图构建(VSLAM)。此外,清洁机器人还包含前方传感器,通过获取清洁机器人行进方向的前方图像来实现障碍物检测和回避等功能。
亦即,过往的清洁机器人需要包含多个传感器以实现不同的检测功能。
有鉴于此,本发明提供一种根据相同的光传感器相对不同光源点亮时所获取的图像帧进行避障、定位及物体识别的移动机器人。
发明内容
本发明提供一种移动机器人,该移动机器人根据激光二极管发光时光传感器获取的图像帧进行障碍物回避,并根据发光二极管发光时所述光传感器获取的图像帧进行视觉定位与地图构建。
本发明还提供一种移动机器人,该移动机器人根据激光二极管发光时光传感器获取的图像帧决定关键区域,并在发光二极管发光时所述光传感器获取的图像帧的所述关键区域内进行物体识别,以降低运算量、降低耗能及提升识别率。
本发明提供一种包含第一光源、第二光源、第三光源、光传感器以及处理器的移动机器人。所述第一光源用于在第一期间朝向行进方向投射水平光线段。所述第二光源用于在第二期间朝向所述行进方向投射垂直光线段。所述第三光源用于在第三期间照明所述行进方向的前方区域。所述光传感器用于在所述第一期间、所述第二期间及所述第三期间分别获取第一图像帧、第二图像帧及第三图像帧。所述处理器电性耦接所述第一光源、所述第二光源、所述第三光源及所述光传感器。所述处理器用于根据所述第一图像帧及所述第二图像帧进行测距并根据所述第三图像帧进行视觉定位与地图构建。
本发明还提供一种包含第一光源、第二光源、像素阵列以及处理器的移动机器人。所述第一光源用于在第一期间朝向行进方向投射水平光线段。所述第二光源用于在第二期间朝向所述行进方向投射垂直光线段。所述像素阵列包含多个第一像素及多个第二像素,所述多个第一像素通过红外光滤光片接收入射光,但所述多个第二像素不通过任何滤光片接收入射光。所述像素阵列用于在所述第一期间、所述第二期间及所述第一期间与所述第二期间之间的第三期间分别获取第一图像帧、第二图像帧及第三图像帧。所述处理器电性耦接所述第一光源、所述第二光源及所述像素阵列,用于根据所述第一图像帧及所述第二图像帧进行测距,并根据所述第三图像帧中与所述多个第二像素相关的像素数据进行视觉定位与地图构建。
本发明还提供一种包含第一光源、第二光源、第三光源、光传感器以及处理器的移动机器人。所述第一光源用于在第一期间朝向行进方向投射水平光线段。所述第二光源用于在第二期间朝向所述行进方向投射垂直光线段。所述第三光源用于照明所述行进方向的前方区域。所述光传感器用于在所述第一期间及所述第二期间分别获取第一图像帧及第二图像帧。所述处理器电性耦接所述第一光源、所述第二光源、所述第三光源及所述光传感器,并用于根据所述第一图像帧及所述第二图像帧判断障碍物,当判断出所述障碍物时,控制所述第三光源在第三期间点亮并控制所述光传感器在所述第三期间获取第三图像帧,根据所述障碍物的位置在所述第三图像帧中决定关键区域,及使用学习模型识别所述关键区域中的所述障碍物的物体种类。
本发明还提供一种包含第一激光光源、第二激光光源、发光二极管光源以及光传感器的移动机器人。所述第一激光光源用于在第一期间朝向行进方向投射水平光线段。所述第二激光光源用于在第二期间朝向所述行进方向投射垂直光线段。所述发光二极管光源用于在第三期间照明所述行进方向的前方区域。所述光传感器用于在所述第一期间、所述第二期间及所述第三期间分别获取第一图像帧、第二图像帧及第三图像帧。
本发明实施例中,移动机器人只需使用单一光传感器搭配不同光源的分时运行,即可实现多种检测功能。
为了让本发明的上述和其他目的、特征和优点能更明显,下文将配合所附图示,详细说明如下。此外,于本发明的说明中,相同的构件以相同的符号表示,于此合先述明。
附图说明
图1A是本发明实施例的移动机器人的示意图;
图1B是本发明实施例的移动机器人的元件的方框示意图;
图2是本发明第一实施例的移动机器人的运行时序图;
图3是本发明实施例的移动机器人的像素阵列的示意图;
图4是本发明第二实施例的移动机器人的运行时序图;
图5是本发明第二实施例的移动机器人的运行方法的流程图;
图6A是本发明实施例的移动机器人的光传感器所获取的第一光源相关的图像帧的示意图;
图6B是本发明实施例的移动机器人的光传感器所获取的第二光源相关的图像帧的示意图。
附图标记说明:
100 移动机器人
11 光传感器
13 处理器
LS1 第一光源
LS21、LS22 第二光源
LS3 第三光源
15 滤光片
具体实施方式
本发明实施例的移动机器人使用单一光传感器搭配不同光源来运行。线光源用于找出障碍物并测量障碍物的距离以作为机器人转向的依据。照明光源用于照明行进方向的前方区域以供视觉定位与地图构建及物体识别。
请参照图1A所示,其为本发明实施例的移动机器人100的示意图。图1A显示移动机器人100是清洁机器人,但本发明并不限于此。移动机器人100可以是任何根据取像结果来移动,以进行搬运、联络、指引等的各式电子机器人。
请同时参照图1B所示,其为本发明实施例的移动机器人100的方框图。移动机器人100包含第一光源LS1、第二光源LS21和LS22、第三光源LS3、光传感器11以及处理器13,该处理器13例如是特定应用集成电路(ASIC)或微处理器(MCU),其利用软件、硬件和/或固件实现其功能。虽然图1B显示两个第二光源,其仅用以说明但非用以限定本发明。移动机器人100可仅包含单一第二光源。
第一光源LS1例如包含激光光源及绕射光学组件,该绕射光学组件用于使所述激光光源的发射光通过后产生水平投射光,以使第一光源LS1朝向行进方向投射水平光线段。所述行进方向例如是朝向设置第一光源LS1、第二光源LS21和LS22、第三光源LS3及光传感器11的一侧。
第二光源LS21和LS22例如分别包含激光光源及绕射光学组件,该绕射光学组件用于使所述激光光源的发射光通过时产生垂直投射光,以使第二光源LS21和LS22分别朝向所述行进方向投射垂直光线段。
本发明中,所述激光光源例如是红外光激光二极管(IR LD)。
第三光源LS3例如是红外光发光二极管(LED),用于照明所述行进方向的前方区域。第三光源LS3的照明范围优选大于或等于光传感器11的视野。本发明中,第三光源点LS3点亮时,第一光源LS1及第二光源LS21和LS22熄灭。
请参照图2,其为本发明第一实施例的移动机器人100的运行时序图。第一光源LS1在第一期间T1朝向行进方向投射水平光线段。第二光源LS21和LS22在第二期间T2朝向行进方向投射垂直光线段。第三光源点LS3在第三期间T3照明行进方向的前方区域。
光传感器11例如是CCD图像传感器或CMOS图像传感器,其以取样频率在第一期间T1、第二期间T2及第三期间T3分别获取第一图像帧、第二图像帧及第三图像帧。当第一图像帧中包含障碍物时,所述第一图像帧会出现如图6A所示的断线;当第一图像帧中不包含障碍物时,所述第一图像帧仅包含连续的(无断线)横向直线。当第二图像帧中包含障碍物时,所述第二图像帧会出现如图6B所示的至少一个断线,其中,断线的角度根据障碍物的形状而定,并不限于图6B所示者;然而,当第二图像帧中不包含障碍物时,所述第二图像帧仅包含两条连续的(无断线)倾斜直线。可以了解的是,图6A及6B仅用以说明,而并非用以限定本发明。
可以了解的是,由于第二光源LS21和LS22是在行进表面投射两条平行光线段,光传感器11获取的第二图像帧中,两条平行光线段呈现倾斜直线。此外,图6B仅显示光传感器11检测到的行进表面上的投射光线段。当移动机器人100前方具有墙面时,第二图像帧中的上方会出现由第二光源LS21和LS22所投射的两条垂直光线段。
断线在图像帧中出现的位置反映了障碍物在移动机器人100前方的位置。只要事先记录图像帧中的断线位置与障碍物的实际距离的关系,当获取包含断线的图像帧时,即能够据以得到移动机器人100与障碍物的距离。
如图6A所示,处理器13已知第一光源LS1在移动机器人100前方的预定距离投射水平光线段,根据三角测距,当水平光线段的影像出现断线时,处理器13即能计算出障碍物的距离及宽度。
如图6B所示,处理器13已知第二光源LS21和LS22在移动机器人100的前方投射垂直光线段,根据三角测距,当垂直光线段的影像出现至少一个断线时,处理器13根据断线在垂直光线段的影像(即倾斜直线)中的位置及长度,即能计算出障碍物的距离及高度。
处理器13电性耦接第一光源LS1、第二光源LS21和LS22、第三光源LS3及光传感器11,用于控制光源启闭以及图像获取。处理器13还根据所述第一图像帧(例如图6A)及所述第二图像帧(例如图6B)进行测距并根据所述第三图像帧(包含实际被获取的物体图像)进行视觉定位与地图构建(VSLAM),其中,VSLAM的详细实施方式为已知,故于此不再赘述。本发明在于,处理器13根据同一个光传感器11相对不同光源点亮时所获取的图像帧来执行不同检测。
请再参照图2所示,光传感器11还在第一期间T1之后的第一光源熄灭期间Td1获取第一暗图像帧,其用于与所述第一图像帧进行差分。光传感器11还在第二期间T2之后的第二光源熄灭期间Td2获取第二暗图像帧,其用于与所述第二图像帧进行差分。例如,处理器13将第一图像帧减去第一暗图像帧并将第二暗图像帧减去第二暗图像帧,以消除背景噪声。
虽然图2显示第一光源熄灭期间Td1在第一期间T1之后且第二光源熄灭期间Td2在第二期间T2之后,但本发明并不限于此。其他实施方式中,第一光源熄灭期间Td1配置在第一期间T1之前且第二光源熄灭期间Td2配置在第二期间T2之前。另一种实施方式中,光传感器11在每个循环(每个光源依序点亮的期间)仅撷取一张暗图像帧(例如在T1前、T1及T2之间或T2后)。处理器13则将第一图像帧减去所述暗图像帧并将第二图像帧减去所述暗图像帧(同一张暗图像帧),如此同样可消除背景噪声并可提高整体图框率。
一种实施方式中,光传感器11包含像素阵列,该像素阵列的全部像素都经过红外光滤光片接收入射光。例如,图1B显示光传感器11前方还配置有红外光滤光片15,该红外光滤光片15可以是位于像素阵列前方的光学元件(例如涂布于透镜),或直接配置于像素阵列的每个像素上。
另一种实施方式中,光传感器11的像素阵列包含多个第一像素PIR及多个第二像素Pmono,如图3所示。第一像素PIR是红外光像素,亦即像素通过红外光滤光片或薄膜接收入射光。第二像素Pmono不通过红外光滤光片或薄膜接收入射光,第二像素Pmono优选不经过任何滤光元件接收入射光。该入射光是移动机器人100前方的地板、墙面、物体等的反射光。
在包含两种像素的实施方式中,上述的第一图像帧及第二图像帧是由多个第一像素PIR所产生的像素数据所构成。亦即,处理器11仅根据多个第一像素PIR所产生的像素数据进行测距。上述的第三图像帧是由多个第一像素PIR及多个第二像素Pmono所产生的像素数据所共同构成,由于第三光源LS3点亮时,第一像素PIR及第二像素Pmono都能检测红外光。处理器13则配置成相对不同光源的点亮来处理相对应的像素数据。
一种实施方式中,像素阵列的多个第一像素PIR及多个第二像素Pmono是如图3所示的以棋盘状排列。其他实施方式中,第一像素PIR及第二像素Pmono可以其他方式排列,例如像素阵列的左半部或上半部是第一像素PIR而像素阵列的右半部或下半部为第二像素Pmono,但本发明并不以此为限。
在第一像素PIR及第二像素Pmono是以棋盘状排列的实施方式中,处理器11在计算物体距离前,还先针对所述第一图像帧及所述第二图像帧进行像素内插运算,以在所述第一图像帧及所述第二图像帧中相对第二像素Pmono的位置填入内插数据后,再进行测距运算。
当光传感器11的像素阵列是以棋盘状排列配置时,本发明实施例的移动机器人100还可以其他方式运行,以增加测距及定位(使用VSLAM)的图框率。图2的实施例中,测距及定位的图框率均为光传感器11的取样频率的1/5。
例如参照图4所示,其为本发明第二实施例的移动机器人100的运行时序图。第一光源LS1在第一期间T1朝向行进方向投射水平光线段。第二光源LS21和LS22在第二期间T2朝向所述行进方向投射垂直光线段。
光传感器11的像素阵列在第一期间T1、第二期间T2及所述第一期间T1与所述第二期间T2之间的第三期间T3分别获取第一图像帧、第二图像帧及第三图像帧。亦即,光传感器11的像素阵列获取所述第三图像帧时,所有光源均未开启。图4中,第三期间T3显示为斜线矩形区域。
处理器13根据所述第一图像帧及所述第二图像帧进行测距(包含找出障碍物并计算距离),其中,所述第一图像帧及所述第二图像帧是由多个第一像素PIR所产生的像素数据所构成。亦即,当第一光源LS1及第二光源LS21和LS22点亮时,第一像素PIR相关的像素数据不会受到其他色光的影响,因此处理器13仅根据多个第一像素PIR所产生的像素数据来进行测距。
此时,第三图像帧是由多个第二像素Pmono所产生的像素数据所构成。
同理,处理器11还根据所述第一图像帧与所述第三图像帧中与第一像素PIR相关的像素数据进行差分运算,并根据所述第二图像帧与所述第三图像帧中与第一像素PIR相关的像素数据进行差分运算,以消除背景噪声。
同理,当第一像素PIR及第二像素Pmono是以棋盘状排列时,处理器11在进行测距前,还针对所述第一图像帧及所述第二图像帧进行像素内插运算,以在所述第一图像帧及所述第二图像帧中相对第二像素Pmono的位置填入内插数据后,再进行测距运算。
第二实施例中,处理器13根据所述第三图像帧中与所述第二像素Pmono相关的像素数据进行视觉定位与地图构建(VSLAM)。本实施例中,不点亮第三光源LS3(此时可不包含第三光源LS3),且由于多个第一像素PIR所产生的像素数据已经排除红外光以外的成分,因此本实施例的第三图像帧仅由多个第二像素Pmono所产生的像素数据所构成。此外,在根据所述第三图像帧进行VSLAM前,处理器13还可先对所述第三图像帧进行像素内插运算,以在所述第三图像帧中相对第一像素PIR的位置填入内插数据。
根据图4可看出,测距的图框率提升为光传感器11的取样频率的1/4(例如图框期间包含T1+T2+2×T3),而VSLAM的图框率提升为光传感器11的取样频率的1/2。
然而,当环境光不足时,不点亮第三光源LS3可能导致处理器13无法正确根据所述第三图像帧进行VSLAM。为解决此问题,处理器11还根据所述第三图像帧识别环境光强度,例如与亮度阈值比较。当根据所述第三图像帧识别环境光属于弱光环境,处理器11还改变第一光源LS1及第二光源LS21和LS22的点亮时序。例如,处理器11控制光源点亮及图像获取改变为如图2所示。亦即,当处于强光环境下(例如第三图像帧的平均亮度大于亮度阈值),移动机器人100则根据图4的时序运行;而当处于弱光环境下(例如第三图像帧的平均亮度小于亮度阈值),移动机器人100则根据图2的时序运行。
本发明还提供一种根据相同的光传感器11获取的图像进行测距及障碍物识别的移动机器人。当判断障碍物为特定物体时,例如电线,袜子等,移动机器人100则直接从障碍物上方越过;而当判断障碍物为电子装置时,例如手机等,移动机器人100则进行闪避而不从障碍物上方越过。可以直接越过障碍物可事先根据不同应用而定。
本实施例的移动机器人100同样如图1A及图1B所示,包含第一光源LS1、第二光源LS21和LS22、第三光源LS3、光传感器11以及处理器13。例如参照图4所示,第一光源LS1在第一期间T1朝向行进方向投射水平光线段;第二光源LS21和LS22在第二期间T2朝向所述行进方向投射垂直光线段。第三光源LS3用于照明所述行进方向的前方区域。
如前所述,为了消除环境光的影响,光传感器11还在第一期间T1之前或之后的第一光源熄灭期间(例如图4的T3期间)获取第一暗图像帧用于与第一图像帧进行差分;并在第二期间T2之前或之后的第二光源熄灭期间(例如图4的T3期间)获取第二暗图像帧用于与第二图像帧进行差分。光传感器11则在第一期间T1及第二期间T2分别获取所述第一图像帧及所述第二图像帧。
本实施例中,光传感器11的像素阵列例如通过滤光片15接收入射光。
处理器13根据所述第一图像帧及所述第二图像帧判断障碍物,其中,判断障碍物的方式已说明于前,故于此不再赘述。在找出障碍物之后,处理器13控制第三光源LS3在第三期间(例如图2的T3期间)点亮并控制光传感器11在所述第三期间获取第三图像帧。
本实施例中,在处理器13判断障碍物出现之前,第三光源LS3不被点亮,因此移动机器人100的运行时序如图4所示。当处理器13判断障碍物出现时,控制第三光源LS3点亮并控制光传感器11在第三光源LS3点亮期间获取一张第三图像帧。其他实施方式中可以获取多张第三图像帧,本发明以使用一张第三图像帧为例进行说明。本实施例中,第三图像帧主要用于供事先训练的学习模型进行物体识别。
当接收到来自光传感器11的第三图像帧后,处理器13根据所述障碍物的位置(例如断线位置)在所述第三图像帧中决定关键区域ROI,如图6A及图6B所示。由于本发明使用单一光传感器,处理器13根据第一图像帧及第二图像帧判断障碍物的位置并决定关键区域ROI后,该关键区域ROI可直接对应于第三图像帧中的相对区域。
一种非限定的实施方式中,关键区域ROI具有预定图像尺寸。亦即,当某一障碍物的位置(例如中心或重心,但不限于)决定后,处理器13即在该位置决定具有预定尺寸的关键区域ROI。
另一种实施方式中,关键区域ROI的尺寸是处理器11根据所述第一图像帧及所述第二图像帧决定的。此时,障碍物愈大,关键区域ROI则愈大;反之,关键区域ROI则愈小。
处理器13接着使用事先训练的学习模型(例如以ASIC或固件内建于处理器11中)识别关键区域ROI中的所述障碍物的物体种类。由于学习模型不识别(例如不计算旋积,convolution)所述第三图像帧中关键区域ROI以外的区域,可有效降低识别时的运算量、花费时间及功耗。同时,由于关键区域ROI内包含少数物体图像,于识别时较不受其他物体的干扰,可提高识别准确率。
此外,为了进一步提高识别率,处理器11还根据所述第二图像帧判断障碍物的高度,例如以图6B中断线的纵向长度H作为所述障碍物的高度。学习模型还根据所述高度识别所述物体种类。
一种实施方式中,物体高度是在训练阶段与真实图像(ground truth image)同时作为训练材料,使用数据网络架构(例如包含类神经网络学习算法、深度学习学习算法,但并不限于此)产生所述学习模型。
另一种实施方式中,在训练阶段中,数据网络架构仅使用真实图像作为训练材料以产生所述学习模型。在操作时,当所述学习模型根据第三图像帧计算出几种物体的机率时,再以所述高度进行过滤。例如,若所述学习模型所分类出的物体种类的高度超过根据所述第二图像帧判断的高度,即使所述物体种类具有最高机率(probability),所述学习模型亦将其排除。
利用学习模型分类图像中的物体为已知,故于此不再赘述。同时,学习模型与物体高度的搭配识别障碍物的方式并不限于本发明所举出者。
一种实施方式中,由于光传感器11的取像频率相对于移动机器人100的移动速度较高,处理器11还控制第一光源LS1、第二光源LS21和LS22及第三光源LS3在第三期间T3(即获取一张第三图框)之后熄灭预定期间,直到障碍物脱离第一光源LS1的投射范围,以避免重复对相同障碍物进行识别。所述预定期间例如可根据移动机器人100的移动速度及根据所述第二图像帧判断的高度来决定。
请参照图5所示,其为本发明实施例的移动机器人100的运行方法的流程图,包含下列步骤:开启线光源以检测障碍物(步骤S51);判断障碍物是否存在(步骤S52);当障碍物不存在,则回到步骤S51持续检测;而当障碍物存在,开启照明光源并获取第三图像帧(步骤S53);在第三图像帧中决定关键区域(步骤S54);以及以学习模型识别物体种类(步骤S55至S56)。本实施例还选择性包含检测物体高度以辅助识别所述物体种类(步骤S57)。
本实施例中,所述线光源例如包含上述第一光源LS1及第二光源LS21和LS22。所述照明光源例如包含上述第三光源SL3。可以了解的是,图1A所示的各光源位置仅为例示,并非用以限定本发明。
步骤S51:处理器13例如控制第一光源LS1及第二光源LS21和LS22分别如图4的第一期间T1及第二期间T2依序发光。处理器13同时控制光传感器11在第一期间T1及第二期间T2分别获取第一图像帧及第二图像帧。
步骤S52:当处理器13判断第一图像帧包含如图6A所示的断线或第二图像帧包含如图6B所示的断线,则判断行进前方具有障碍物。程序接着进入步骤S53。反之,当处理器13判断第一图像帧及第二图像帧均不包含断线,则回到步骤S51持续检测障碍物。
当判断第一图像帧或第二图像帧包含断线时,处理器13还记录(例如于内存)断线位置以作为物体位置。
步骤S53:处理器13接着控制第三光源SL3点亮,例如在图2所示的第三期间T3。处理器13同时控制光传感器11在第三期间T3获取第三图像帧,其包含至少一物体图像。在处理器13根据单张图像识别物体的实施例中,处理器13仅控制第三光源SL3开启一个第三期间T3。一种实施方式中,在第三期间T3后,处理器13则控制第一光源LS1及第二光源LS21和LS22回到图4的时序运行。另一种实施方式中,在第三期间T3后,处理器13则控制所有光源暂停发光预定期间,以避免重复检测到相同障碍物,之后再回到图4的时序运行。
步骤S54:处理器13接着在所述第三图像帧中决定关键区域ROI,该关键区域位于步骤S52决定的物体位置。如前所述,关键区域ROI的尺寸可为预先设定或根据第一图像帧的断线宽度W(参照图6A所示)及第二图像帧的断线高度H(参照图6B所示)决定。
步骤S55至S56:最后,处理器13根据出厂前训练而得的学习模型识别所述关键区域内的物体图像以判断物体种类。
步骤S57:为了提升识别率,当在步骤S52判断存在障碍物时,处理器13另根据第二图像帧判断物体高度,例如根据图6B的H来决定。判断出的物体高度可辅助学习模型分类及识别物体种类。步骤S57可选择性实施。
当识别出物体种类后,处理器13可根据事先的设定回避特定障碍物或直接越过某些障碍物。识别出物体种类后的运行,可根据不同应用而设定,并无特定限制。若某些物体无法识别出种类,处理器13可根据事先的设定回避或直接越过这些未知障碍物。
必须说明的是,虽然上述实施例中显示第二光源LS21和LS22是同时点亮及同时熄灭,但本发明并不限于此。其他实施方式中,LS21及LS22可依序点亮(光传感器则相对应进行图像获取),只要能在行进方向前方分别投射垂直光线段即可。
此外,第一光源、第二光源及第三光源各别的数目并不限于图1A所示,可分别包含相同的多个光源同时点亮或熄灭。
本发明中,所述水平是指与行进表面(例如地面)大致平行,而所述垂直是指与所述行进表面大致垂直。位于行进路径的物体则称为障碍物。
此外,本发明的移动机器人100在根据光传感器11所获取的第三图像帧进行视觉定位与地图构建(VSLAM)之前,可选择先识别出所述第三图像帧中的移动物体,例如人体、宠物等,并将所述移动物体从第三图像帧中移除,由于移动物体可能不会一直存在移动机器人100的运行空间中,以避免处理器13所计算的特征点失效。
一种实施方式中,当光传感器11获取一张第三图像帧后,处理器13先根据事先训练的学习模型识别所述第三图像帧中(此时无须决定第三图像帧中的关键区域)的障碍物的物体种类,以区分出移动物体。例如事先定义并记录某些物体种类属于移动物体。若所述第三图像帧中不包含已分类的移动物体,处理器13则根据所述第三图像帧直接进行视觉定位与地图构建。若所述第三图像帧中包含已分类的移动物体,处理器13则根据移除移动物体后的第三图像帧进行视觉定位与地图构建。借此,可提升视觉定位与地图构建的准确度。
另一种实施方式中,处理器13根据光传感器11获取的第三图像帧利用光流(optical flow)或相关性(correlation)计算出移动量超过阈值的像素,并将包含高移动量(即大于或等于移动阈值)的多个像素区域识别为移动物体并将其从第三图像帧中除移。接着,处理器13则根据移除移动物体后的第三图像帧进行视觉定位与地图构建。借此,可提升视觉定位与地图构建的准确度。利用光流或相关性计算出像素的移动量的方式为已知,故于此不再赘述。
再一种实施方式中,处理器13根据光传感器11获取的第三图像帧计算各像素的深度图(depth map),并将连续的第三图像帧中,深度变化与其他像素深度不一致的像素视为移动物体相关的像素。例如,当移动机器人朝向墙壁笔直前进时,该墙壁的深度在连续计算时会逐渐变近,若墙边存在其他移动物体,该移动物体的深度变化会与墙壁的深度变化明显不同。因此,处理器13即可根据连续深度图识别出移动物体,并将其从第三图像帧中除移。接着,处理器13则根据移除移动物体后的第三图像帧进行视觉定位与地图构建。借此,可提升视觉定位与地图构建的准确度。计算图像帧中各像素的深度图的方式为已知,故于此不再赘述。
本发明中,处理器13识别移动物体的方式并不限于上述三者,处理器13还可根据其他方式识别出第三图像帧中的移动物体以进行移除。固定物体在视觉定位与地图构建中作为移动机器人的运行空间中的障碍物或范围限制。
如前所述,第三图像帧是指照明光源点亮时光传感器11获取的图像帧。
综上所述,已知清洁机器人使用多种传感器来分别达成不同的检测功能,且具有在障碍物识别时所需的运算量大、时间长、功耗高及识别率低的问题。因此,本发明还提供一种适用于智能家居的移动机器人(例如图1至图2)及其运行方法(例如图5),其根据单一图像传感器的检测结果同时达成避障、定位及物体识别的目的。
虽然本发明已通过前述实施例披露,但是其并非用以限定本发明,任何本发明所属技术领域中具有通常知识技术人员,在不脱离本发明的构思和范围内,当可作各种的变动与修改。因此本发明的保护范围当视权利要求所界定的范围为准。
Claims (21)
1.一种移动机器人,该移动机器人包含:
第一光源,该第一光源用于在第一期间朝向行进方向投射水平光线段;
第二光源,该第二光源用于在第二期间朝向所述行进方向投射垂直光线段;
第三光源,该第三光源用于在第三期间照明所述行进方向的前方区域;
光传感器,该光传感器用于在所述第一期间、所述第二期间及所述第三期间分别获取第一图像帧、第二图像帧及第三图像帧;以及
处理器,该处理器电性耦接所述第一光源、所述第二光源、所述第三光源及所述光传感器,用于根据所述第一图像帧及所述第二图像帧进行测距并根据所述第三图像帧进行视觉定位与地图构建。
2.根据权利要求1所述的移动机器人,其中,
所述第一光源及所述第二光源分别包含红外光激光二极管;及
所述第三光源包含红外光发光二极管。
3.根据权利要求1所述的移动机器人,其中,所述光传感器还用于
在所述第一期间之前或之后的第一光源熄灭期间获取第一暗图像帧,该第一暗图像帧用于与所述第一图像帧进行差分,及
在所述第二期间之前或之后的第二光源熄灭期间获取第二暗图像帧,该第二暗图像帧用于与所述第二图像帧进行差分。
4.根据权利要求1所述的移动机器人,其中,所述光传感器包含像素阵列,该像素阵列的全部像素都经过红外光滤光片接收入射光。
5.根据权利要求1所述的移动机器人,其中,所述光传感器包含像素阵列,该像素阵列包含多个第一像素及多个第二像素,所述多个第一像素通过红外光滤光片接收入射光,但所述多个第二像素不通过任何滤光片接收入射光,其中
所述第一图像帧及所述第二图像帧是由所述多个第一像素所产生的像素数据所构成;且
所述第三图像帧是由所述多个第一像素及所述多个第二像素所产生的像素数据所共同构成。
6.根据权利要求5所述的移动机器人,其中,所述多个第一像素及所述多个第二像素是以棋盘状排列。
7.根据权利要求6所述的移动机器人,其中所述处理器还用于
针对所述第一图像帧及所述第二图像帧进行像素内插运算,及
在根据所述第三图像帧进行所述视觉定位与地图构建之前,移除所述第三图像帧中的移动物体。
8.一种移动机器人,该移动机器人包含:
第一光源,该第一光源用于在第一期间朝向行进方向投射水平光线段;
第二光源,该第二光源用于在第二期间朝向所述行进方向投射垂直光线段;
像素阵列,该像素阵列包含多个第一像素及多个第二像素,所述多个第一像素通过红外光滤光片接收入射光,但所述多个第二像素不通过任何滤光片接收入射光,其中,所述像素阵列用于在所述第一期间、所述第二期间及所述第一期间与所述第二期间之间的第三期间分别获取第一图像帧、第二图像帧及第三图像帧;以及
处理器,该处理器电性耦接所述第一光源、所述第二光源及所述像素阵列,用于根据所述第一图像帧及所述第二图像帧进行测距,并根据所述第三图像帧中与所述多个第二像素相关的像素数据进行视觉定位与地图构建。
9.根据权利要求8所述的移动机器人,其中所述处理器还用于
根据所述第一图像帧与所述第三图像帧中与所述多个第一像素相关的像素数据进行差分运算以消除背景噪声,及
根据所述第二图像帧与所述第三图像帧中与所述多个第一像素相关的像素数据进行差分运算以消除背景噪声。
10.根据权利要求8所述的移动机器人,其中所述多个第一像素及所述多个第二像素是以棋盘状排列。
11.根据权利要求10所述的移动机器人,其中
所述第一图像帧及所述第二图像帧是由所述多个第一像素所产生的像素数据所构成;且
所述第三图像帧是由所述多个第二像素所产生的像素数据所构成。
12.根据权利要求11所述的移动机器人,其中所述处理器还用于
在进行所述测距之前针对所述第一图像帧及所述第二图像帧进行像素内插运算,且
在进行所述视觉定位与地图构建之前针对所述第三图像帧进行像素内插运算。
13.根据权利要求8所述的移动机器人,其中所述处理器还用于
根据所述第三图像帧判断环境光强度,及
在根据所述第三图像帧进行所述视觉定位与地图构建之前,移除所述第三图像帧中的移动物体。
14.根据权利要求13所述的移动机器人,其中当根据所述第三图像帧判断所述环境光强度小于阈值时,所述处理器还用于改变所述第一光源及所述第二光源的点亮时序。
15.一种移动机器人,该移动机器人包含:
第一光源,该第一光源用于在第一期间朝向行进方向投射水平光线段;
第二光源,该第二光源用于在第二期间朝向所述行进方向投射垂直光线段;
第三光源,该第三光源用于照明所述行进方向的前方区域;
光传感器,该光传感器用于在所述第一期间及所述第二期间分别获取第一图像帧及第二图像帧;以及
处理器,该处理器电性耦接所述第一光源、所述第二光源、所述第三光源及所述光传感器,并用于
根据所述第一图像帧及所述第二图像帧判断障碍物,
当判断出所述障碍物时,控制所述第三光源在第三期间点亮并控制所述光传感器在所述第三期间获取第三图像帧,
根据所述障碍物的图像位置在所述第三图像帧中决定关键区域,及
使用学习模型识别所述关键区域中的所述障碍物的物体种类。
16.根据权利要求15所述的移动机器人,其中,所述学习模型不识别所述第三图像帧中所述关键区域以外的区域。
17.根据权利要求15所述的移动机器人,其中,
所述处理器还根据所述第二图像帧判断所述障碍物的高度,且
所述学习模型还根据所述高度识别所述物体种类。
18.根据权利要求15所述的移动机器人,其中,所述处理器还控制所述第一光源、所述第二光源及所述第三光源在所述第三期间之后熄灭预定期间。
19.根据权利要求15所述的移动机器人,其中
所述关键区域具有预定图像尺寸;或
所述关键区域的图像尺寸是所述处理器根据所述第一图像帧及所述第二图像帧所决定。
20.根据权利要求15所述的移动机器人,其中所述光传感器还用于
在所述第一期间之前或之后的第一光源熄灭期间获取第一暗图像帧,该第一暗图像帧用于与所述第一图像帧进行差分,及
在所述第二期间之前或之后的第二光源熄灭期间获取第二暗图像帧,该第二暗图像帧用于与所述第二图像帧进行差分。
21.一种移动机器人,该移动机器人包含:
第一激光光源,该第一激光光源用于在第一期间朝向行进方向投射水平光线段;
第二激光光源,该第二激光光源用于在第二期间朝向所述行进方向投射垂直光线段;
发光二极管光源,该发光二极管光源用于在第三期间照明所述行进方向的前方区域;
光传感器,该光传感器用于在所述第一期间、所述第二期间及所述第三期间分别获取第一图像帧、第二图像帧及第三图像帧。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/929,232 US11691264B2 (en) | 2017-06-02 | 2020-07-15 | Mobile robot performing multiple detections using image frames of same optical sensor |
US16/929,232 | 2020-07-15 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114019533A true CN114019533A (zh) | 2022-02-08 |
Family
ID=80053903
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110075965.7A Pending CN114019533A (zh) | 2020-07-15 | 2021-01-20 | 移动机器人 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114019533A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024055788A1 (zh) * | 2022-09-15 | 2024-03-21 | 珠海一微半导体股份有限公司 | 基于图像信息的激光定位方法及机器人 |
-
2021
- 2021-01-20 CN CN202110075965.7A patent/CN114019533A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024055788A1 (zh) * | 2022-09-15 | 2024-03-21 | 珠海一微半导体股份有限公司 | 基于图像信息的激光定位方法及机器人 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11691264B2 (en) | Mobile robot performing multiple detections using image frames of same optical sensor | |
US11752635B2 (en) | Mobile robot performing multiple detections using image frames of same optical sensor | |
Reisman et al. | Crowd detection in video sequences | |
US11675365B2 (en) | Moving robot without detection dead zone | |
WO2013104316A1 (zh) | 一种对发射光源的成像信息进行筛选处理的方法与设备 | |
US10354413B2 (en) | Detection system and picture filtering method thereof | |
CN115399679B (zh) | 可侦测二维深度信息的清洁机器人 | |
JP6236039B2 (ja) | 車外環境認識装置 | |
WO2020234041A1 (en) | System and method for robot localisation in reduced light conditions | |
WO2024055788A1 (zh) | 基于图像信息的激光定位方法及机器人 | |
US20240036204A1 (en) | Mobile robot performing multiple detections using different parts of pixel array | |
CN114019533A (zh) | 移动机器人 | |
US10803625B2 (en) | Detection system and picturing filtering method thereof | |
JP3839329B2 (ja) | ナイトビジョンシステム | |
CN116898351A (zh) | 脏污检测装置、方法及机器人 | |
CN115248440A (zh) | 基于点阵光投射的tof深度相机 | |
CN114680732A (zh) | 一种清洁机器人及其清洁控制方法 | |
JP2019156276A (ja) | 車両検出方法及び車両検出装置 | |
JP2019079338A (ja) | 対象物検知システム | |
JP2010169431A (ja) | 通過検出装置 | |
JP2015139204A (ja) | ネズミ検出システムの評価方法 | |
Zingaretti et al. | Route following based on adaptive visual landmark matching | |
KR100746300B1 (ko) | 로봇의 이동방향 결정 방법 | |
WO2020035524A1 (en) | Object detection based on analysis of a sequence of images | |
CN117694790A (zh) | 脏污检测装置、方法及机器人 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |