CN112996377B - 自主作业机、自主作业机的控制方法以及存储介质 - Google Patents

自主作业机、自主作业机的控制方法以及存储介质 Download PDF

Info

Publication number
CN112996377B
CN112996377B CN201880099389.6A CN201880099389A CN112996377B CN 112996377 B CN112996377 B CN 112996377B CN 201880099389 A CN201880099389 A CN 201880099389A CN 112996377 B CN112996377 B CN 112996377B
Authority
CN
China
Prior art keywords
working machine
autonomous working
mark
work
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201880099389.6A
Other languages
English (en)
Other versions
CN112996377A (zh
Inventor
高桥宽人
山村诚
宇田川贵正
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Publication of CN112996377A publication Critical patent/CN112996377A/zh
Application granted granted Critical
Publication of CN112996377B publication Critical patent/CN112996377B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0223Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving speed control of the vehicle
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0234Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using optical markers or beacons
    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01BSOIL WORKING IN AGRICULTURE OR FORESTRY; PARTS, DETAILS, OR ACCESSORIES OF AGRICULTURAL MACHINES OR IMPLEMENTS, IN GENERAL
    • A01B69/00Steering of agricultural machines or implements; Guiding agricultural machines or implements on a desired track
    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01DHARVESTING; MOWING
    • A01D34/00Mowers; Mowing apparatus of harvesters
    • A01D34/006Control or measuring arrangements
    • A01D34/008Control or measuring arrangements for automated or remotely controlled operation
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0088Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0214Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means

Abstract

一种自主作业机,其在由标记规定的作业区域内进行作业,该自主作业机具备:摄像机;检测机构,其从所述摄像机的拍摄图像中检测标记;以及控制机构,其在所述标记已经从所述检测机构的检测范围脱离的情况下,对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。

Description

自主作业机、自主作业机的控制方法以及存储介质
技术领域
本发明涉及自主作业机、自主作业机的控制方法以及存储介质。
背景技术
以往,已知有使用多个标记来规定作业区域,并在所规定的作业区域内进行作业的自主作业机。
专利文献1公开了一种除草装置,该除草装置从拍摄图像中提取相对于作业区域的规定位置而预先设置的标记的图像,并基于提取出的标记图像求出当前位置,进行按照作业线的自主行驶。
现有技术文献
专利文献
专利文献1:日本特开第2017-158532号公报
发明内容
发明所要解决的问题
然而,在自主作业机朝向标记与标记之间行进的情况下,存在自主作业机向由标记规定的作业区域外脱离的可能性。在自主作业机通过标识间而向作业区域外脱离的情况下,存在出现自主作业机淹没在处于作业区域外的池中等事故的隐患。
本发明的目的在于提供一种用于使自主作业机不会向作业区域外脱离而能够继续作业的技术。
用于解决问题的方法
为了解决上述问题而达到目的,本发明所涉及的自主作业机在由标记规定的作业区域内进行作业,其特征在于,所述自主作业机具备:
摄像机;
检测机构,其从所述摄像机的拍摄图像中检测标记;以及
控制机构,其在所述标记已经从所述检测机构的检测范围脱离的情况下,对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
发明效果
根据本发明,自主作业机不会向作业区域外脱离,能够继续作业。
本发明的其他特征以及优点将通过参照附图的以下的说明而更加明确。此外,在附图中,对相同或同样的结构标注相同的附图标记。
附图说明
表示本发明的实施方式的附图构成说明书的一部分,并与其记述一起用于对本发明的原理进行说明。
图1是本发明的一个实施方式所涉及的能够自主行驶的自主作业机的外观图。
图2是从侧方观察本发明的一个实施方式所涉及的自主作业机的图。
图3是表示控制本发明的一个实施方式所涉及的自主作业机的电子控制单元(ECU)的输入输出关系的框图。
图4是表示实施方式1所涉及的自主作业机所实施的处理步骤的流程图。
图5是表示实施方式2所涉及的自主作业机所实施的处理步骤的流程图。
图6是表示本发明的一个实施方式所涉及的作业区域内的动作的一个例子的图。
图7是表示本发明的一个实施方式所涉及的作业区域内的另一动作的一个例子的图。
图8是表示本发明的一个实施方式所涉及的作业区域内的又一动作的一个例子的图。
图9是表示本发明的一个实施方式所涉及的拍摄图像的解析的一个例子的图。
图10是表示本发明的一个实施方式所涉及的作业区域内的再一动作的一个例子的图。
具体实施方式
以下,参照附图对本发明的实施方式进行说明。此外,在各附图中对相同的构成要素标注相同的附图标记。
(实施方式1)
图1是本发明的一个实施方式所涉及的能够自主行驶的作业机的外观图。以下,将侧视时的作业机的行进方向(车长方向)、与行进方向正交的横向(车宽方向)、以及与行进方向和横向正交的铅垂方向分别定义为前后方向、左右方向、上下方向,并据此对各部分的结构进行说明。
在图1中,符号10表示作业机(以下称为“作业车”)。具体而言,作业车10作为自主行驶的除草机而发挥功能。但是,除草机是一个例子,也能够将本发明应用于其他种类的作业机械(例如除雪机、割草机、搬运车、耕地机等)。作业车10具备包括多个摄像机(第一摄像机11a、第二摄像机11b)的摄像机单元11,能够使用由具有视差的第一摄像机11a、第二摄像机11b拍摄到的图像来计算并获取存在于前方的物体与作业车10的距离信息。并且,作业车10基于到物体为止的距离信息来控制作业车10的动作。
图2是从横向(车宽方向)观察该作业车10的图。如图2所示,作业车10具备摄像机单元11、车身12、支架13、前轮14、后轮16、刀片20、作业马达22、马达保持部件23、刀片高度调节马达100以及平移机构101。另外,作业车10具备行驶马达26、各种传感器组S、电子控制单元(ECU:Electronic Control Unit)44、充电单元30、电池(battery)32、充电端子34、报告部35。
作业车10的车身12具有底盘12a和安装于该底盘12a的框架12b。前轮14是在前后方向上经由支架13固定于底盘12a的前侧的小径的左右两个车轮。后轮16是安装于底盘12a的后侧的大径的左右两个车轮。
刀片20是安装在底盘12a的中央位置附近的除草作业用的旋转刀片。作业马达22是配置于刀片20的上方的电动马达。刀片20与作业马达22连接,由作业马达22旋转驱动。马达保持部件23对作业马达22进行保持。马达保持部件23相对于底盘12a的旋转被限制,并且允许例如通过导轨以及被导轨引导而能够上下移动的滑块的组合而沿上下方向移动。
刀片高度调节马达100是用于调节刀片20相对于地面GR的上下方向的高度的马达。平移机构101是与刀片高度调节马达100连接、用于将刀片高度调节马达100的旋转转换为上下方向的平移移动的机构。该平移机构101还与对作业马达22进行保持的马达保持部件23连接。
刀片高度调节马达100的旋转通过平移机构101转换为平移移动(上下方向的移动),平移移动被传递到马达保持部件23。通过马达保持部件23的平移移动(上下方向的移动),保持于马达保持部件23的作业马达22也平移移动(上下方向的移动)。通过作业马达22的上下方向的移动,能够调节刀片20相对于地面GR的高度。
行驶马达26是安装于作业车10的底盘12a的两个电动马达(原动机)。两个电动马达分别与左右的后轮16连接。通过将前轮14作为从动轮、将后轮16作为驱动轮而使左右的车轮独立地正转(向前进方向的旋转)或反转(向后退方向的旋转),能够使作业车10向各种方向移动。
充电端子34是设置于框架12b的前后方向的前端位置的充电端子,通过与充电站(未图示)的对应的端子连接,能够接受来自充电站的供电。充电端子34经由配线与充电单元30连接,该充电单元30与电池(battery)32连接。另外,作业马达22、行驶马达26、刀片高度调节马达100也与电池32连接,构成为从电池32供电。
ECU 44是包括在电路基板上构成的微型计算机的电子控制单元,对作业车10的动作进行控制。ECU 44的详细情况后述。报告部35在作业车10发生了异常的情况下报告异常的发生。例如,通过声音或显示进行报告。或者,对通过有线或无线与作业车10连接的外部设备来输出异常的发生。用户能够通过外部设备知晓异常的发生。
图3是表示控制该作业车10的电子控制单元(ECU)的输入输出关系的框图。如图3所示,ECU 44具备CPU 44a、I/O 44b以及存储器44c。存储器44c是ROM(Read Only Memory:只读存储器)、EEPROM(Electrically Erasable Programmable Read Only Memory:带电可擦可编程只读存储器)、RAM(Random Access Memory:随机存取存储器)等。在存储器44c中存储有与作业车10的作业日程、作业区域相关的信息、用于控制作业车10的动作的各种程序。ECU 44通过读出并执行存储于存储器44c的程序,能够作为用于实现本发明的各处理部而动作。
ECU 44与各种传感器组S进行连接。传感器组S构成为包括方位传感器46、GPS(Global Positioning System:全球定位系统)传感器48、车轮速度传感器50、角速度传感器52、加速度传感器54、电流传感器62以及刀片高度传感器64。
方位传感器46以及GPS传感器48是用于获取作业车10的位置、朝向的信息的传感器。方位传感器46检测与地磁对应的方位。GPS传感器48接收来自GPS卫星的电波并检测表示作业车10的当前位置(纬度、经度)的信息。此外,关于当前位置的推定,并不限定于利用GPS的情况,也可以通过GNSS(Global Navigation Satellite System:全球导航卫星系统)等任意的卫星定位系统来求出当前位置。另外,也可以基于摄像机的拍摄结果来求出当前位置。
车轮速度传感器50、角速度传感器52以及加速度传感器54是用于获取与作业车10的移动状态相关的信息的传感器。车轮速度传感器50检测左右的后轮16的车轮速度。角速度传感器52检测作业车10的重心位置的绕上下方向的轴(铅垂方向的z轴)的角速度。加速度传感器54检测作用于作业车10的x、y、z轴的正交三轴方向的加速度。
电流传感器62检测电池32的消耗电流(消耗电力量)。消耗电流(消耗电力量)的检测结果被保存于ECU 44的存储器44c。在预先决定的电力量被消耗而电池32中蓄积的电力量成为阈值以下的情况下,ECU 44为了充电而进行控制以使作业车10返回充电站(未图示)。
刀片高度传感器64检测刀片20相对于地面GR的高度。刀片高度传感器64的检测结果向ECU 44输出。基于ECU 44的控制,刀片高度调节马达100被驱动,刀片20沿上下方向上下移动而调节距地面GR的高度。
各种传感器组S的输出经由I/O 44b向ECU 44输入。ECU 44基于各种传感器组S的输出,从电池32对行驶马达26、作业马达22、高度调节马达100供给电力。ECU 44经由I/O44b输出控制值来控制行驶马达26,由此控制作业车10的行驶。另外,通过经由I/O 44b输出控制值来控制高度调节马达100,从而调节刀片20的高度。进一步地,通过经由I/O 44b输出控制值来控制作业马达22,从而控制刀片20的旋转。在此,I/O 44b能够作为通信接口而发挥功能,能够经由网络302以有线或无线的方式与外部设备(例如,智能手机、个人计算机等通信设备)350连接。
<处理>
接着,参照图4的流程图对本实施方式所涉及的作业车10实施的处理的顺序进行说明。在步骤S401中,ECU 44获取由摄像机单元11拍摄到的拍摄图像。
在步骤S402中,ECU 44从拍摄图像中检测标记。在此,标记是指为了规定作业车10进行作业的作业区域而预先配置于作业区域的标记。例如,图6是表示在由多个标记规定的作业区域内进行作业的作业车10的情形的图。600是作业区域,601至605是标记。通过多个标记601至605来规定作业区域600的边界,由此规定作业区域600。此外,标记不仅规定作业区域的外周,在作业区域的内部存在大树、岩石等障碍物的情况下,也在其周围配置多个标记,从而能够将该障碍物从作业区域排除。在检测到标记的情况下,进入步骤S403。另一方面,如果未检测到标记,则处理进入步骤S409。
在步骤S403中,ECU 44基于拍摄图像以及标记来控制作业车10的动作。ECU 44能够基于由摄像机单元11拍摄到的多个拍摄图像,计算并获取存在于作业车10的前方的标记与作业车10的距离信息。然后,ECU 44基于到标记为止的距离信息来控制作业车10的动作。此时,ECU 44也可以在检测到的标记间设定虚拟线。而且,ECU 44也可以将所设定的虚拟线识别为作业区域的边界,控制作业车10的动作(例如,行驶速度和行进方向中的至少一方),以不超过虚拟线而向作业区域外脱离。由此,在检测到标记的期间,能够进行转弯等动作以不脱离虚拟线,因此能够进行更高精度的控制。
在步骤S404中,ECU 44获取由摄像机单元11拍摄到的拍摄图像。在步骤S405中,ECU 44从在步骤S404中获取的拍摄图像中检测标记。在检测到标记的情况下,返回步骤S403。另一方面,在未检测到标记的情况下(即,在标记已经从检测范围脱离的情况下),进入步骤S406。
也可以构成为:在本步骤S405中,例如,如果从前一帧的拍摄图像中检测到多个标记,则在从拍摄图像中检测不到全部的多个标记的情况下(已经从检测范围脱离的情况下),进入步骤S406。
或者也可以构成为:在本步骤S405中,如果从前一帧的拍摄图像中检测到多个标记,则在从当前帧的拍摄图像中检测不到多个标记中的至少一个的情况下(已经从检测范围脱离的情况下),进入步骤S406。另外,也可以构成为:如果从前一帧的拍摄图像中检测到两个标记,则在从当前帧的拍摄图像中检测不到两个标记中的一方的情况下(已经从检测范围脱离的情况下),进入步骤S406。在图6的例子的情况下,作业车10从作业区域600的右侧朝向左侧移动。在位于右侧时,检测到标记602以及标记603这两个标记,但若向左下方向移动,则不再检测到标记603,而仅检测到标记602。在这样的情况下,作业车10有可能从由连结标记602以及标记603的线规定的边界脱离。因此,为了避免脱离,进入步骤S406。
或者也可以构成为:在本步骤S405中,当在当前帧的拍摄图像中无法将从前一帧的拍摄图像中检测出的标记识别为标记的情况下,进入步骤S406。例如,相当于以下情况:作业车10过于接近标记,虽然在拍摄图像中包括标记,但无法识别为标记。
在步骤S406中,ECU 44判定作业车10是否向作业区域的边界方向移动。在图6的例子中,作业车10朝向作业区域600的边界(例如连结标记601和标记602的线、或者连结标记602和标记603的线)的方向。例如,预先对在连续获取的前面帧的拍摄图像的每一帧中检测出的标记的尺寸进行记录,在从拍摄图像中检测出的标记的尺寸逐级增大而以规定的尺寸以上被检测出的情况下,能够判定为作业车10正在向边界方向移动。或者,也可以测量从拍摄图像中检测出的标记的尺寸的增加速度,在成为规定的增加速度以上的情况下,判定为作业车10正在向边界方向移动。这是因为,在距标记的距离远时,在远处检测出的标记的尺寸在拍摄图像间不那么变化,但在近处检测出的标记的尺寸仅稍微移动就在拍摄图像间大幅变化。在判定为作业车10正在向边界方向移动的情况下,进入步骤S407。另一方面,在判定为作业车10未向边界方向移动的情况下(例如,正在朝向作业区域600的中央附近行驶的情况下),进入步骤S409。
在步骤S407中,ECU 44对作业车10的行驶速度和行进方向中的至少一方进行控制。例如,使作业车10的行驶速度从当前的行驶速度减速,和/或使作业车10转弯来变更行进方向。例如,以相对于当前的行进方向成为90度的方向的方式向左右的某一方转弯。或者,也可以以相对于当前的行进方向成为180度的方向的方式向左右的某一方转弯。即,也可以以在与此前的行进方向相反的方向上行驶的方式使作业车10转弯。此外,不限于90度、180度,也可以是任意的角度。例如可以从45度至180度的范围内选择并决定。或者,也可以暂时停止而向与行进方向相反的方向后退。
在图6的例子的情况下,也可以向远离连结标记602以及标记603之间的线的方向,相对于当前的行进方向向右方转弯。此时,也可以一并使行驶速度减速。由此,能够防止作业车10从作业区域的边界脱离而向外飞出。
但是,也可以不一定向远离边界的方向转弯。只要相对于当前的行进方向向左右的任一方向转弯而不脱离边界,则也可以向接近边界的方向转弯。
在此,对向左右哪个方向转弯都可以的情况下的方向的决定方法的一个例子进行叙述。图7与图6同样地,图示了由标记701至705规定的作业区域700。在此,作业区域700具有第一作业区域700a和第二作业区域700b。第一作业区域700a是作业量比第二作业区域700b多的区域。作业量多是指例如草的量多,作业量少是指例如草的量少。另外,在作业车10不是除草机而是例如除雪机、高尔夫球回收机等的情况下,积雪多的区域成为作业量多的区域,高尔夫球分布多的区域成为作业量多的区域。判定左右哪一方是作业量多的区域,就控制为向判定出的那一方的区域转弯。例如,进行控制,以向作业量多的第一作业区域700a所在的右方向转弯。另外,也可以不向右方向转弯,而是向右方向转弯至与行进方向相反的方向。例如,图8与图7同样地,图示了由标记801至805规定的作业区域800。在此,作业区域800具有第一作业区域800a和第二作业区域800b。第一作业区域800a是作业量比第二作业区域800b多的区域。如图所示,进行控制以使得相对于行进方向向第一作业区域800a所在的右侧转弯,继续转弯直至成为与当初的行进方向相反的方向,并向该相反的方向前进。由此,能够减少作业的残留(例如草的漏割),因此,能够在维持较高的作业效率的状态下,防止作业车10从作业区域的边界脱离而向外飞出。
此外,参照图9说明判定哪个作业区域的作业量多的方法。图9是由摄像机单元11拍摄到的拍摄图像900。拍摄图像900是在图8中作业车10从右上朝向左下的中途拍摄到的图像。拍摄图像中包括标记802、第一作业区域800a、第二作业区域800b。在此,在作业车10为除草机的情况下,作业量多的区域是草多的区域。在草较多的区域和草较少的区域内,颜色的明暗不同。在草多的区域呈深绿色,在草少的区域呈浅绿色(例如黄绿色)。通过分析拍摄图像的亮度值,能够将深色的草分布较多的区域决定为作业量较多的区域。由此,能够转弯到作业量多的作业区域。另外,在作业车10是除雪机的情况下,同样地通过对拍摄图像进行解析,能够将积雪较多的区域决定为作业量较多的区域。在作业机为高尔夫球回收机的情况下,同样地通过对拍摄图像进行解析,能够将检测出高尔夫球的数量较多的区域决定为作业量较多的区域。
在步骤S408中,ECU 44判定是否继续处理。例如,在作业区域内的作业完成、或者由用户将作业车10的电源断开的情况下,结束处理。在并非如此的情况下,判定为继续处理。在本步骤中判定为继续处理的情况下,返回步骤S401。另一方面,在判定为结束处理的情况下,结束图4的一系列的处理。
在步骤S409中,ECU 44基于拍摄图像来控制作业车10的动作。例如,ECU44能够基于由摄像机单元11拍摄到的多个拍摄图像,计算并获取存在于作业车10的前方的物体(例如,作业区域内的树木、石头、岩石等)与作业车10的距离信息。然后,ECU 44基于到其为止的距离信息来控制作业车10的动作。在前方没有障碍物的情况下,也可以以维持行驶速度以及行进方向的方式进行控制。在本步骤的处理之后,返回步骤S401。以上是图4的处理的说明。
此外,在图4的处理中,在从拍摄图像中未检测到标记的情况下,即标记已经从检测范围脱离的情况下(在步骤S406中为“否”),在步骤S406中判定作业车10是否向作业区域的边界方向移动,但也可以跳过步骤S406的处理。即,也可以构成为,在从拍摄图像中未检测到标记的情况下(在步骤S406中为“否”),直接判断为作业车10有可能已经从作业区域的边界脱离,并进行步骤S407的用于避免脱离的控制。
另外,在图4的处理中,说明了在从拍摄图像中未检测到标记的情况下、即标记已经从检测范围脱离的情况下(在步骤S406中为“否”),经过步骤S406的处理而立即进行步骤S407的处理的例子。但是,也可以构成为:在标记从检测范围脱离起经过了规定时间之后,对作业车10的行驶速度和行进方向中的至少一方进行控制。即,也可以构成为从在步骤S405中判定为“否”起经过了规定时间之后,进行步骤407的处理。这是因为,即使在未检测到标记后行驶一段时间的同时继续作业,也不会立即到达作业区域的边界。由此,不立即进行转弯、减速等处理,因此能够进行作业直至不脱离作业区域的边界附近。因此,能够防止产生未进行作业的区域(能够防止边界附近的草的漏割),因此能够提高作业效率。
如以上说明的那样,在本实施方式中,对在标记从检测范围脱离的情况下控制自主作业机的行驶速度和行进方向中的至少一方的例子进行了说明。由此,自主作业机不会向作业区域外脱离,能够继续作业。
(实施方式2)
在本实施方式中,对在本来应该存在的位置由于某种原因而无法检测本来应该存在的标记的情况下的控制进行说明。例如,在因风的影响而标记倾倒或标记的位置移动的情况下、在标记之前设置有障碍物的情况下、草伸长而隐藏标记的情况下等,若基于该标记进行作业,则有可能进行于不希望的作业区域内的作业。即,存在作业车脱离作业区域的可能性。在本实施方式中,预先存储标记的配置信息,判定标记的检测结果与配置信息的匹配性,在不匹配的情况下,切换为替代位置推定方法来控制作业车的动作。
本实施方式所涉及的作业车的结构与在实施方式1中说明的作业车10的结构相同,因此省略详细的说明。此外,本实施方式所涉及的作业车10在存储器44c中预先保持有表示规定作业区域的多个标记的配置位置的配置信息。然后,判定从拍摄图像中检测出的标记的位置与配置信息是否匹配,在不匹配的情况下,使用GPS传感器48推定作业车10的位置,并基于推定出的位置来控制作业车10的动作。或者,不通过GPS传感器48,而是通过使用了车轮速度传感器50、角速度传感器52、加速度传感器54等的里程计来推定作业车10的位置,并基于推定出的位置来控制作业车10的动作。
<处理>
参照图5的流程图,对本实施方式所涉及的作业车10实施的处理的顺序进行说明。但是,步骤S501以及步骤S502的处理与图4的步骤S401以及步骤S402的处理相同。另外,步骤S504至步骤S508、步骤S512的各处理与图4的步骤S403至步骤S405、步骤S407至步骤S409的各处理相同。以下,主要说明与图4的处理的不同点。
在步骤S503中,ECU 44判定与预先保持于存储器44c的标记的配置信息的匹配性。具体而言,判定在步骤S502中检测出的标记的位置与预先保持在存储器44c中的标记的配置信息是否匹配。在判定为匹配的情况下,进入步骤S504。另一方面,在判定为不匹配的情况下,进入步骤S510。
在步骤S509中,ECU 44判定与预先保持于存储器44c的标记的配置信息的匹配性。具体而言,在预先保持于存储器44c的标记的配置信息所示的位置不存在标记的情况下(在本来应该存在的位置不存在标记的情况下),判定为与配置信息不匹配。在判定为匹配的情况下,进入步骤S512。另一方面,在判定为不匹配的情况下,进入步骤S510。
在步骤S510中,ECU 44推定作业车10的位置。既可以使用GPS传感器48来推定,也可以通过使用了车轮速度传感器50、角速度传感器52、加速度传感器54等的里程计来推定。如果在本来应该存在的位置由于某种原因而不存在标记,而使用检测出的标记来控制作业车10的动作,则存在从本来期望的作业区域脱离的可能性,因此使用其他的位置推定方法来推定作业车10的位置。
在步骤S511中,ECU 44基于在步骤S510中推定出的作业车10的位置来控制作业车10的动作。以上是图5的处理的说明。
此外,在图5的处理中,对省略图4的步骤S406的处理的例子进行了说明,但也可以不省略而进行该处理。
在此,图10图示了由标记1001至标记1005规定的作业区域1000。在此,作业区域1000具有第一作业区域1000a和第二作业区域1000b。第一作业区域1000a是作业量比第二作业区域100b多的区域。如图所示,在作业车10的行进方向上存在第一作业区域1000a,作业车10从第二作业区域1000b向第一作业区域1000a所在的方向移动。作业区域1000a例如是草较多的区域,是无法检测标记1001以及标记1002的状态。在这样的情况下,基于预先保持的标记的配置信息,判定为在本来应该存在的位置不存在标记。因此,在该情况下,在步骤502中为“否”,在步骤S509中为“否”,进入步骤S510,使用替代位置推定方法来推定作业车10的位置。然后,在步骤S511中,基于推定出的位置进行图10所示的转弯动作。或者,不限于转弯,也可以进行后退动作。
如以上说明的那样,在本实施方式中,判定预先保持的标记的配置信息与标记的检测结果的匹配性,在不匹配的情况下,使用替代位置推定方法来推定作业车的位置,基于该推定结果来控制作业车的动作。
由此,即使在检测出的标记的位置因风等而移动的情况下,也能够防止作业车从作业区域脱离。或者,在标记前存在障碍物、或草伸长而无法看到标记的情况下,无法检测标记,但即使在该情况下,也能够防止作业车从作业区域脱离。
本发明不限于上述实施方式,在不脱离本发明的精神和范围的情况下,能够进行各种变更和变形。因此,为了公开本发明的范围,添加以下的权利要求。
<实施方式的总结>
1.上述实施方式的自主作业机(例如10)是在由标记(例如601至605等)规定的作业区域(例如600等)内进行作业的自主作业机(例如10),所述自主作业机具备:
摄像机(例如11);
检测机构(例如44),其从所述摄像机的拍摄图像中检测标记;以及
控制机构(例如44),其在所述标记已经从所述检测机构的检测范围脱离的情况下,对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,自主作业机不会向作业区域外脱离,能够继续作业。
2.在上述实施方式的自主作业机(例如10)中,在从所述标记从所述检测机构的检测范围脱离起经过了规定时间之后,所述控制机构(例如44)对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,若从检测范围脱离后立即进行转弯动作,则时机过早,有可能在作业区域的边界附近产生作业遗漏(例如草的漏割),但能够减少这样的作业遗漏。
3.上述实施方式的自主作业机(例如10)还具备设定机构(例如44),该设定机构在由所述检测机构检测出的标记间设定虚拟线,
所述控制机构将由所述设定机构设定的虚拟线识别为所述作业区域的边界,并对所述自主作业机的行驶速度和行进方向中的至少一方进行控制,以避免超过所述虚拟线而向所述作业区域外脱离。
在检测到标记的期间,能够以不脱离虚拟线的方式进行转弯,但在产生了某些错误的情况(例如无法检测到标记的情况)下,有可能脱离虚拟线。根据该实施方式,在产生了错误的情况下,进行转弯等动作,因此自主作业机不会向作业区域外脱离,能够继续作业。
4.上述实施方式的自主作业机(例如10)还具备:
推定机构(例如48、50、52、54等),其对所述自主作业机的位置进行推定;
存储机构(例如44c),其对包括所述标记的配置位置的配置信息进行存储;以及
判定机构(例如44),其对所述配置位置与所述检测机构所做出的检测结果是否匹配进行判定,
在由所述判定机构判定为不匹配的情况下,所述控制机构(例如44)基于所述推定机构所做出的推定结果,对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,即使在检测出的标记的位置因风等而从本来应该存在的位置移动的情况下,也能够防止作业机从作业区域脱离。或者,在标记前存在障碍物、或草伸长而无法看到标记的情况下,无法检测标记,但即使在该情况下,也能够防止作业机从作业区域脱离。
5.在上述实施方式的自主作业机(例如10)中,所述推定机构使用里程计(例如50、52、54等)、卫星定位系统(例如48)或所述摄像机的拍摄结果进行推定。
根据该实施方式,即使在对拍摄图像进行解析的控制无法担保准确性的情况下,通过使用其他位置推定方法,也能够防止从作业区域的脱离并且继续作业。
6.上述实施方式的自主作业机(例如10)还具备:
存储机构(例如44c),其对包括所述标记的配置位置的配置信息进行存储;以及
判定机构(例如44),其对所述配置位置与所述检测机构所做出的检测结果是否匹配进行判定,
在由所述判定机构判定为匹配的情况且所述标记已经从所述检测机构的检测范围脱离的情况下,所述控制机构(例如44)对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,通过在判定出标记的配置信息与实际检测出的标记的位置的匹配性的基础上进行转弯等动作,能够实现高精度的控制。
7.上述实施方式的自主作业机(例如10)还具备方向判定机构(例如44),该方向判定机构对所述自主作业机是否正在向所述作业区域的边界方向移动进行判定,
在由所述方向判定机构判定为所述自主作业机正在向所述边界方向移动的情况、且所述标记已经从所述检测机构的检测范围脱离的情况下,所述控制机构(例如44)对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,在未向作业区域的边界方向移动的情况下,认为从边界脱离的可能性低,因此在这样的情况下不进行不必要的转弯等动作即可。
8.在上述实施方式的自主作业机(例如10)中,在由所述检测机构检测出的多个标记全部已经从所述检测范围脱离的情况下,所述控制机构(例如44)对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,在无法检测出全部标记的情况下,认为接近作业区域的边界,因此通过进行转弯等动作,能够适当地防止从作业区域的脱离。
9.在上述实施方式的自主作业机(例如10)中,在由所述检测机构检测出的多个标记中的至少一个标记已经从所述检测范围脱离的情况下,所述控制机构(例如44)对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,在此前能够检测出的标记的数量减少的情况下,认为朝向作业区域的边界,因此通过进行转弯等动作,能够适当地防止从作业区域的脱离。
10.在上述实施方式的自主作业机(例如10)中,在由所述检测机构检测出的两个标记中的一方已经从所述检测范围脱离的情况下,所述控制机构(例如44)对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,在检测到两个标记的期间,能够将标记间识别为作业区域的边界,但在检测不到其中的一方的情况下,无法识别边界,因此通过进行转弯等动作,能够适当地防止从作业区域的脱离。
11.在上述实施方式的自主作业机(例如10)中,在无法将由所述检测机构检测出的标记识别为标记的情况下,所述控制机构(例如44)对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,例如在过于接近标记,虽然包括在拍摄图像中但无法识别为标记的情况下,也能够适当地防止从作业区域的脱离。
12.上述实施方式的自主作业机(例如10)的控制方法,其是在由标记(例如601至605等)规定的作业区域(例如600)内进行作业的自主作业机(例如10)的控制方法,其具有:
检测步骤,在所述检测步骤中,从所述自主作业机所具备的摄像机(例如11)的拍摄图像中检测标记;以及
控制步骤,在所述控制步骤中,在所述标记已经从基于所述检测步骤的检测范围脱离的情况下,对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
根据该实施方式,自主作业机不会向作业区域外脱离,能够继续作业。
13.上述实施方式的程序是用于使计算机作为如上述实施方式的任一项所述的自主作业机而发挥功能的程序。
根据该实施方式,能够通过计算机来实现上述实施方式所涉及的处理。

Claims (12)

1.一种自主作业机,其在由标记规定的作业区域内进行作业,其特征在于,所述自主作业机具备:
摄像机;
检测机构,其从所述摄像机的前一帧的拍摄图像中检测标记;以及
控制机构,其当在当前帧的拍摄图像中所述标记已经从所述检测机构的检测范围脱离的情况下,对所述自主作业机的行驶速度和行进方向中的至少一方进行控制,
所述自主作业机还具备设定机构,该设定机构在由所述检测机构检测出多个标记的情况下,在该标记间设定表示假想线的虚拟线,
所述控制机构将由所述设定机构设定的虚拟线识别为所述作业区域的边界,并对所述自主作业机的行驶速度和行进方向中的至少一方进行控制,以避免超过所述虚拟线而向所述作业区域外脱离。
2.根据权利要求1所述的自主作业机,其特征在于,
在从在当前帧的拍摄图像中所述标记从所述检测机构的检测范围脱离起经过了规定时间之后,所述控制机构对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
3.根据权利要求1所述的自主作业机,其特征在于,所述自主作业机还具备:
推定机构,其对所述自主作业机的位置进行推定;
存储机构,其对包括所述标记的配置位置的配置信息进行存储;以及
判定机构,其对所述配置位置与所述检测机构所做出的检测结果是否匹配进行判定,
在由所述判定机构判定为不匹配的情况下,所述控制机构基于所述推定机构所做出的推定结果,对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
4.根据权利要求3所述的自主作业机,其特征在于,所述推定机构使用里程计、卫星定位系统或所述摄像机的拍摄结果进行推定。
5.根据权利要求1所述的自主作业机,其特征在于,所述自主作业机还具备:
存储机构,其对包括所述标记的配置位置的配置信息进行存储;以及
判定机构,其对所述配置位置与所述检测机构所做出的检测结果是否匹配进行判定,
在由所述判定机构判定为匹配的情况且在当前帧的拍摄图像中所述标记已经从所述检测机构的检测范围脱离的情况下,所述控制机构对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
6.根据权利要求1所述的自主作业机,其特征在于,所述自主作业机还具备方向判定机构,该方向判定机构对所述自主作业机是否正在向所述作业区域的边界方向移动进行判定,
在由所述方向判定机构判定为所述自主作业机正在向所述边界方向移动的情况、且在当前帧的拍摄图像中所述标记已经从所述检测机构的检测范围脱离的情况下,所述控制机构对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
7.根据权利要求1所述的自主作业机,其特征在于,
当在当前帧的拍摄图像中由所述检测机构检测出的多个标记全部已经从所述检测范围脱离的情况下,所述控制机构对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
8.根据权利要求1所述的自主作业机,其特征在于,
当在当前帧的拍摄图像中由所述检测机构检测出的多个标记中的至少一个标记已经从所述检测范围脱离的情况下,所述控制机构对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
9.根据权利要求8所述的自主作业机,其特征在于,
当在当前帧的拍摄图像中由所述检测机构检测出的两个标记中的一方已经从所述检测范围脱离的情况下,所述控制机构对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
10.根据权利要求1所述的自主作业机,其特征在于,
当所述自主作业机在当前帧的拍摄图像中接近由所述检测机构检测出的标记而无法识别该标记的情况下,所述控制机构对所述自主作业机的行驶速度和行进方向中的至少一方进行控制。
11.一种自主作业机的控制方法,其是在由标记规定的作业区域内进行作业的自主作业机的控制方法,其特征在于,所述自主作业机的控制方法具有:
检测步骤,在所述检测步骤中,从所述自主作业机所具备的摄像机的前一帧的拍摄图像中检测标记;以及
控制步骤,在所述控制步骤中,当在当前帧的拍摄图像中所述标记已经从基于所述检测步骤的检测范围脱离的情况下,对所述自主作业机的行驶速度和行进方向中的至少一方进行控制,
所述控制方法还具有设定步骤,在所述设定步骤中,在通过所述检测步骤检测出多个标记的情况下,在该标记间设定表示假想线的虚拟线,
在所述控制步骤中,将通过所述设定步骤设定的虚拟线识别为所述作业区域的边界,并对所述自主作业机的行驶速度和行进方向中的至少一方进行控制,以避免超过所述虚拟线而向所述作业区域外脱离。
12.一种存储介质,其存储有程序,其特征在于,所述程序用于使计算机作为如权利要求1所述的自主作业机而发挥功能。
CN201880099389.6A 2018-11-20 2018-11-20 自主作业机、自主作业机的控制方法以及存储介质 Active CN112996377B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/042853 WO2020105125A1 (ja) 2018-11-20 2018-11-20 自律作業機、自律作業機の制御方法及びプログラム

Publications (2)

Publication Number Publication Date
CN112996377A CN112996377A (zh) 2021-06-18
CN112996377B true CN112996377B (zh) 2023-11-28

Family

ID=70774654

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880099389.6A Active CN112996377B (zh) 2018-11-20 2018-11-20 自主作业机、自主作业机的控制方法以及存储介质

Country Status (5)

Country Link
US (1) US20210263529A1 (zh)
EP (1) EP3884749B1 (zh)
JP (1) JP7201704B2 (zh)
CN (1) CN112996377B (zh)
WO (1) WO2020105125A1 (zh)

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4211921A (en) * 1978-02-03 1980-07-08 Iseki Agricultural Machinery Mfg. Co. Ltd. Sensor for use in controlling operation of mobile farming machine
JPH02287708A (ja) * 1989-04-28 1990-11-27 Yanmar Diesel Engine Co Ltd 無人移動体の移動制御方法
JPH10103966A (ja) * 1996-09-30 1998-04-24 Sumitomo Electric Ind Ltd 車線逸脱警告装置
JP2007156689A (ja) * 2005-12-02 2007-06-21 Mitsubishi Heavy Ind Ltd 光源位置検出装置、これを用いた顔認識装置及び自走式ロボット
JP2008033759A (ja) * 2006-07-31 2008-02-14 Secom Co Ltd 移動ロボット
CN101765527A (zh) * 2007-07-31 2010-06-30 株式会社丰田自动织机 停车辅助装置、停车辅助装置的车辆侧装置、停车辅助方法及停车辅助程序
CN101959739A (zh) * 2008-03-12 2011-01-26 本田技研工业株式会社 车辆行驶辅助装置、车辆、车辆行驶辅助程序
WO2015147111A1 (ja) * 2014-03-28 2015-10-01 ヤンマー株式会社 自律走行作業車両
WO2015147150A1 (ja) * 2014-03-28 2015-10-01 ヤンマー株式会社 オペレータ監視装置
JP2016186749A (ja) * 2015-03-27 2016-10-27 本田技研工業株式会社 無人作業車の制御装置
JP2016212697A (ja) * 2015-05-11 2016-12-15 株式会社リコー 制御装置、走行装置、制御方法およびプログラム
JP2016224903A (ja) * 2015-05-27 2016-12-28 日本車輌製造株式会社 搬送車両
JP2017120551A (ja) * 2015-12-28 2017-07-06 株式会社リコー 自律走行装置
CN107203208A (zh) * 2016-03-18 2017-09-26 本田技研工业株式会社 无人行驶作业车

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS58217012A (ja) * 1982-06-11 1983-12-16 Kubota Ltd 障害物検出センサ−付走行車輌
JP2007156576A (ja) * 2005-11-30 2007-06-21 Mitsubishi Heavy Ind Ltd 走行台車のオドメトリ(車輪距離計)パラメータ調整方法及び装置
EP3104244B1 (en) 2014-02-06 2019-03-27 Yanmar Co., Ltd. Parallel travel work system
US9764473B1 (en) * 2014-10-01 2017-09-19 Bobsweep Inc. System and method for confinement of a robotic device
JP2016114984A (ja) * 2014-12-11 2016-06-23 福田 敏男 作業車両
WO2016103066A1 (en) 2014-12-23 2016-06-30 Husqvarna Ab Zone control system for a robotic vehicle
WO2016178294A1 (ja) 2015-05-07 2016-11-10 ヤンマー株式会社 自律走行車の誘導制御システム
EP3365736B1 (en) * 2015-10-22 2021-06-16 Greyorange Pte Ltd. Automated fault diagnosis and recovery of machines
JP6651961B2 (ja) 2016-03-03 2020-02-19 株式会社リコー 農作業用装置および農作業用装置の制御方法
JP6235640B2 (ja) * 2016-03-18 2017-11-22 本田技研工業株式会社 無人走行作業車

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4211921A (en) * 1978-02-03 1980-07-08 Iseki Agricultural Machinery Mfg. Co. Ltd. Sensor for use in controlling operation of mobile farming machine
JPH02287708A (ja) * 1989-04-28 1990-11-27 Yanmar Diesel Engine Co Ltd 無人移動体の移動制御方法
JPH10103966A (ja) * 1996-09-30 1998-04-24 Sumitomo Electric Ind Ltd 車線逸脱警告装置
JP2007156689A (ja) * 2005-12-02 2007-06-21 Mitsubishi Heavy Ind Ltd 光源位置検出装置、これを用いた顔認識装置及び自走式ロボット
JP2008033759A (ja) * 2006-07-31 2008-02-14 Secom Co Ltd 移動ロボット
CN101765527A (zh) * 2007-07-31 2010-06-30 株式会社丰田自动织机 停车辅助装置、停车辅助装置的车辆侧装置、停车辅助方法及停车辅助程序
CN101959739A (zh) * 2008-03-12 2011-01-26 本田技研工业株式会社 车辆行驶辅助装置、车辆、车辆行驶辅助程序
WO2015147111A1 (ja) * 2014-03-28 2015-10-01 ヤンマー株式会社 自律走行作業車両
WO2015147150A1 (ja) * 2014-03-28 2015-10-01 ヤンマー株式会社 オペレータ監視装置
JP2016186749A (ja) * 2015-03-27 2016-10-27 本田技研工業株式会社 無人作業車の制御装置
JP2016212697A (ja) * 2015-05-11 2016-12-15 株式会社リコー 制御装置、走行装置、制御方法およびプログラム
JP2016224903A (ja) * 2015-05-27 2016-12-28 日本車輌製造株式会社 搬送車両
JP2017120551A (ja) * 2015-12-28 2017-07-06 株式会社リコー 自律走行装置
CN107203208A (zh) * 2016-03-18 2017-09-26 本田技研工业株式会社 无人行驶作业车

Also Published As

Publication number Publication date
JPWO2020105125A1 (ja) 2021-09-27
WO2020105125A1 (ja) 2020-05-28
EP3884749A1 (en) 2021-09-29
JP7201704B2 (ja) 2023-01-10
EP3884749A4 (en) 2021-11-24
EP3884749B1 (en) 2024-01-03
US20210263529A1 (en) 2021-08-26
CN112996377A (zh) 2021-06-18

Similar Documents

Publication Publication Date Title
JP7203120B2 (ja) 制御システム、制御装置、自律作業機、制御装置の動作方法、自律作業機の制御方法及びプログラム
CN107203208B (zh) 无人行驶作业车
CN112558603A (zh) 跟随作业系统
US11782447B2 (en) Autonomous work machine, method of controlling the same, and storage medium
US10836430B2 (en) Motor vehicle, system and method for operating such a motor vehicle and such a system
CN107203206B (zh) 无人行驶作业车
JP7003699B2 (ja) 圃場作業車両の管理システム
WO2020100265A1 (ja) 自律作業機、自律作業機の制御方法及びプログラム
CN112996377B (zh) 自主作业机、自主作业机的控制方法以及存储介质
US11853078B2 (en) Autonomous work system
US11892850B2 (en) Autonomous work machine, method of controlling the same, and storage medium
US20210271247A1 (en) Autonomous work machine, method of controlling the same, and storage medium
JP2021047724A (ja) 作業システム、自律作業機、自律作業機の制御方法及びプログラム
CN114937258B (zh) 割草机器人的控制方法、割草机器人以及计算机存储介质
US20220137631A1 (en) Autonomous work machine, control device, autonomous work machine control method, control device operation method, and storage medium
US11625963B2 (en) Management apparatus, control method for management apparatus, and non-transitory computer-readable storage medium
EP3896627A1 (en) Automated work system
US20220137632A1 (en) Autonomous work machine, autonomous work machine control method, and storage medium
JP2021092465A (ja) 無人航空機の推定位置を修正するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体
JP7168682B2 (ja) 作業機、作業機の制御方法及びプログラム
KR20200057838A (ko) 블루투스 신호와 증강현실을 이용한 무선충전 충전소 위치 및 거리 표시장치 및 그 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant