CN116957459A - 基于货运场景的智能匹配方法、系统、设备及存储介质 - Google Patents
基于货运场景的智能匹配方法、系统、设备及存储介质 Download PDFInfo
- Publication number
- CN116957459A CN116957459A CN202310969640.2A CN202310969640A CN116957459A CN 116957459 A CN116957459 A CN 116957459A CN 202310969640 A CN202310969640 A CN 202310969640A CN 116957459 A CN116957459 A CN 116957459A
- Authority
- CN
- China
- Prior art keywords
- space
- information
- freight
- stacking
- goods
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000013528 artificial neural network Methods 0.000 claims description 17
- 230000011218 segmentation Effects 0.000 claims description 9
- 238000013507 mapping Methods 0.000 claims description 5
- 238000012163 sequencing technique Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 abstract description 16
- 239000011159 matrix material Substances 0.000 description 24
- 238000004364 calculation method Methods 0.000 description 13
- 238000012545 processing Methods 0.000 description 8
- 238000013473 artificial intelligence Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000000926 separation method Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 239000000463 material Substances 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000005111 flow chemistry technique Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
- G06Q10/083—Shipping
- G06Q10/0835—Relationships between shipper or supplier and carriers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2457—Query processing with adaptation to user needs
- G06F16/24578—Query processing with adaptation to user needs using ranking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Economics (AREA)
- Tourism & Hospitality (AREA)
- Entrepreneurship & Innovation (AREA)
- Strategic Management (AREA)
- Operations Research (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Quality & Reliability (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Development Economics (AREA)
- Geometry (AREA)
- Multimedia (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了基于货运场景的智能匹配方法、系统、设备及存储介质,该方法包括:采集每个货车装载空间的第一空间数据;采集待运输的货物群的第二空间数据;对第二空间数据进行空间识别,获得每个货物的第三空间数据;基于货物群对应的第三空间数据进行空间堆放,获得堆放后总体积最小的堆放结构信息;根据堆放结构信息匹配第一空间数据满足最小总体积的至少一货车,并发送任务请求信息。本发明能够在网络货运场景下准确获取车型及货物信息,并合理规划货物在空间中的摆放,提高车货匹配精准度,以此降低发货成本及运输过程中货物破损率。
Description
技术领域
本发明涉及货运大数据处理领域,具体地说,涉及基于货运场景的智能匹配方法、系统、设备及存储介质。
背景技术
网络货运场景下发货目前依赖于货主个人经验及人工填写的车型信息。发货过程,货主首先根据估计的货物体积选取车型,在完成货物信息填取后,由可承接车主进行接单,但车主车辆可装载空间受限于车型、是否改装等多项因素,常导致接单车辆于实际货物所需体积不符。
基于经验的现有方法:车型的初步选取主要依赖于货主对于货物体积的估计,在车型初步满足的情况下,不同货物的摆放主要依赖于车主经验,并非最大化合理利用车辆空间。同时,由于在网络货运场景下,车主货车的内部尺寸不可实时更新,车主货车装货区域可能存在改装现象,导致实际可装货空间体积与最初登记体积不一致,对应货运订单难以成交,造成货主时间损失及货运平台经济损失。
现有方法为了集中式货物分配运输而产生,存在大量货物需要用不同车辆或者飞机进行分配,且需要货物、运载设备信息是完全已知。但是网络货运场景下,所做的是车货的匹配,发货方可能是个体或者企业,货物类型多样且零散,平台侧无法获取准确货物信息,同时由于车辆内载空间信息无法准确获取,采用专利所述方法会造成空间装货率低、发货成本增加等现象。同时由于专利所述空间规划方法未考虑到货物类型多样复杂情况,易造成网络货运场景下货物运输破损率增加。
因此,本发明提供了一种基于货运场景的智能匹配方法、系统、设备及存储介质。
发明内容
针对现有技术中的问题,本发明的目的在于提供基于货运场景的智能匹配方法、系统、设备及存储介质,克服了现有技术的困难,能够在网络货运场景下准确获取车型及货物信息,并合理规划货物在空间中的摆放,提高车货匹配精准度,以此降低发货成本及运输过程中货物破损率。
本发明的实施例提供一种基于货运场景的智能匹配方法,包括以下步骤:
采集每个货车装载空间的第一空间数据;
采集待运输的货物群的第二空间数据;
对所述第二空间数据进行空间识别,获得每个货物的第三空间数据;
基于所述货物群对应的第三空间数据进行空间堆放,获得堆放后总体积最小的堆放结构信息;
根据所述堆放结构信息匹配所述第一空间数据满足最小总体积的至少一货车,并发送任务请求信息。
优选地,所述采集每个货车装载空间的第一空间数据,包括:
拍摄每个货车装载空间的第一影像信息;
基于所述第一影像信息进行深度识别,建立所述货车装载空间的第一三维点云信息;
根据所述第一三维点云信息匹配一种预设尺寸的车厢内部空间。
优选地,所述采集待运输的货物群的第二空间数据,包括:
拍摄待运输的货物群的第二影像信息;
基于所述第二影像信息进行深度识别,建立所述待运输的货物群的第二三维点云信息。
优选地,所述对所述第二空间数据进行空间识别,获得每个货物的第三空间数据,包括:
对所述第二三维点云信息基于点云识别的第一神经网络进行空间识别和分割,获得每个货物对应的第三三维点云信息。
优选地,所述基于所述货物群对应的第三空间数据进行空间堆放,获得堆放后总体积最小的堆放结构信息,包括:
基于所述货物群对应的各第三空间数据在若干种预设尺寸的车厢内部空间进行空间堆放,所述货物群的货物紧密排列于所述车厢内部空间的空间范围内;
统计每一种空间堆放后货物群的总体积;
通过排序获得堆放后总体积最小的堆放结构信息。
优选地,所述根据所述堆放结构信息匹配所述第一空间数据满足最小总体积的至少一货车,并发送任务请求信息,包括:
根据所述堆放结构信息匹配所述最小总体积对应的车厢内部空间的货车发送任务请求信息;
当车主用户接单后,向所述车主用户发送总体积最小的堆放结构信息。
优选地,所述对所述第二三维点云信息基于点云识别的第一神经网络进行空间识别和分割,获得每个货物对应的第三三维点云信息之后,还包括:
根据所述第三三维点云信息,匹配对应第二影像信息的局部影像;对所述局部影像基于第二神经网络进行图片标签识别,获得图片标签信息;将所述文本信息输入基于运输敏感词分类的第三神经网络进行堆放标签识别,见过识别出的标签与所述第三三维点云信息建立映射关系;
所述基于所述货物群对应的各第三空间数据在若干种预设尺寸的车厢内部空间进行空间堆放,所述货物群的货物紧密排列于所述车厢内部空间的空间范围内中,还包括:
基于所述堆放标签和基于所述堆放标签的预设堆放规则对至少一所述第三三维点云信息在所述车厢内部空间内的垂直方向的位置进行限定。
本发明的实施例还提供一种基于货运场景的智能匹配系统,用于实现上述的基于货运场景的智能匹配方法,所述基于货运场景的智能匹配系统包括:
货车空间模块,采集每个货车装载空间的第一空间数据;
货群空间模块,采集待运输的货物群的第二空间数据;
货物空间模块,对所述第二空间数据进行空间识别,获得每个货物的第三空间数据;
货物堆放模块,基于所述货物群对应的第三空间数据进行空间堆放,获得堆放后总体积最小的堆放结构信息;
任务请求模块,根据所述堆放结构信息匹配所述第一空间数据满足最小总体积的至少一货车,并发送任务请求信息。
本发明的实施例还提供一种基于货运场景的智能匹配设备,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行上述基于货运场景的智能匹配方法的步骤。
本发明的实施例还提供一种计算机可读存储介质,用于存储程序,所述程序被执行时实现上述基于货运场景的智能匹配方法的步骤。
本发明的目的在于提供基于货运场景的智能匹配方法、系统、设备及存储介质,能够在网络货运场景下准确获取车型及货物信息,并合理规划货物在空间中的摆放,提高车货匹配精准度,以此降低发货成本及运输过程中货物破损率。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显。
图1是本发明的基于货运场景的智能匹配方法的流程图。
图2是本发明的基于货运场景的智能匹配设备的结构示意图。
图3是本发明的基于货运场景的智能匹配方法的实施过程中架构模块图。
图4是本发明的基于货运场景的智能匹配方法的实施过程中车主用户端的流程图。
图5是本发明的基于货运场景的智能匹配方法的实施过程中货主用户端的流程图。
图6是本发明的基于货运场景的智能匹配设备的结构示意图。
图7是本发明一实施例的计算机可读存储介质的结构示意图。
具体实施方式
以下通过特定的具体实例说明本申请的实施方式,本领域技术人员可由本申请所揭露的内容轻易地了解本申请的其他优点与功效。本申请还可以通过另外不同的具体实施方式加以实施或应用系统,本申请中的各项细节也可以根据不同观点与应用系统,在没有背离本申请的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
下面以附图为参考,针对本申请的实施例进行详细说明,以便本申请所属技术领域的技术人员能够容易地实施。本申请可以以多种不同形态体现,并不限定于此处说明的实施例。
在本申请的表示中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的表示意指结合该实施例或示例表示的具体特征、结构、材料或者特点包括于本申请的至少一个实施例或示例中。而且,表示的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本申请中表示的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于表示目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或隐含地包括至少一个该特征。在本申请的表示中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
为了明确说明本申请,省略与说明无关的器件,对于通篇说明书中相同或类似的构成要素,赋予了相同的参照符号。
在通篇说明书中,当说某器件与另一器件“连接”时,这不仅包括“直接连接”的情形,也包括在其中间把其它元件置于其间而“间接连接”的情形。另外,当说某种器件“包括”某种构成要素时,只要没有特别相反的记载,则并非将其它构成要素排除在外,而是意味着可以还包括其它构成要素。
当说某器件在另一器件“之上”时,这可以是直接在另一器件之上,但也可以在其之间伴随着其它器件。当对照地说某器件“直接”在另一器件“之上”时,其之间不伴随其它器件。
虽然在一些实例中术语第一、第二等在本文中用来表示各种元件,但是这些元件不应当被这些术语限制。这些术语仅用来将一个元件与另一个元件进行区分。例如,第一接口及第二接口等表示。再者,如同在本文中所使用的,单数形式“一”、“一个”和“该”旨在也包括复数形式,除非上下文中有相反的指示。应当进一步理解,术语“包含”、“包括”表明存在的特征、步骤、操作、元件、组件、项目、种类、和/或组,但不排除一个或多个其他特征、步骤、操作、元件、组件、项目、种类、和/或组的存在、出现或添加。此处使用的术语“或”和“和/或”被解释为包括性的,或意味着任一个或任何组合。因此,“A、B或C”或者“A、B和/或C”意味着“以下任一个:A;B;C;A和B;A和C;B和C;A、B和C”。仅当元件、功能、步骤或操作的组合在某些方式下内在地互相排斥时,才会出现该定义的例外。
此处使用的专业术语只用于言及特定实施例,并非意在限定本申请。此处使用的单数形态,只要语句未明确表示出与之相反的意义,那么还包括复数形态。在说明书中使用的“包括”的意义是把特定特性、区域、整数、步骤、作业、要素及/或成份具体化,并非排除其它特性、区域、整数、步骤、作业、要素及/或成份的存在或附加。
虽然未不同地定义,但包括此处使用的技术术语及科学术语,所有术语均具有与本申请所属技术领域的技术人员一般理解的意义相同的意义。普通使用的字典中定义的术语追加解释为具有与相关技术文献和当前提示的内容相符的意义,只要未进行定义,不得过度解释为理想的或非常公式性的意义。
图1是本发明的基于货运场景的智能匹配方法的流程图。如图1所示,本发明的基于货运场景的智能匹配方法,包括以下步骤:
S110、采集每个货车装载空间的第一空间数据。
S120、采集待运输的货物群的第二空间数据。
S130、对第二空间数据进行空间识别,获得每个货物的第三空间数据。
S140、基于货物群对应的第三空间数据进行空间堆放,获得堆放后总体积最小的堆放结构信息。
S150、根据堆放结构信息匹配第一空间数据满足最小总体积的至少一货车,并发送任务请求信息。
在一个优选实施例中,步骤S110,包括:
S111、拍摄每个货车装载空间的第一影像信息。
S112、基于第一影像信息进行深度识别,建立货车装载空间的第一三维点云信息。
S113、根据第一三维点云信息匹配一种预设尺寸的车厢内部空间,但不以此为限。
在一个优选实施例中,步骤S120,包括:
S121、拍摄待运输的货物群的第二影像信息。
S122、基于第二影像信息进行深度识别,建立待运输的货物群的第二三维点云信息,但不以此为限。
在一个优选实施例中,步骤S130,包括:
S131、对第二三维点云信息基于点云识别的第一神经网络进行空间识别和分割,获得每个货物对应的第三三维点云信息,然后计算货物表面每个点的三维坐标,并计算最大外接尺寸,但不以此为限。
在一个优选实施例中,步骤S140,包括:
S141、基于货物群对应的各第三空间数据在若干种预设尺寸的车厢内部空间进行空间堆放,货物群的货物紧密排列于车厢内部空间的空间范围内。
S142、统计每一种空间堆放后货物群的总体积。
S143、通过排序获得堆放后总体积最小的堆放结构信息,但不以此为限。
在一个优选实施例中,步骤S150,包括:
S151、根据堆放结构信息匹配最小总体积对应的车厢内部空间的货车发送任务请求信息。
S152、当车主用户接单后,向车主用户发送总体积最小的堆放结构信息,但不以此为限。
在一个优选实施例中,步骤S131之后还包括:
S132、根据第三三维点云信息,匹配对应第二影像信息的局部影像。
S133、对局部影像基于第二神经网络进行图片标签识别,获得图片标签信息。
S134、将文本信息输入基于运输敏感词分类的第三神经网络进行堆放标签识别,见过识别出的标签与第三三维点云信息建立映射关系。
步骤S141中还包括:
基于堆放标签和基于堆放标签的预设堆放规则对至少一第三三维点云信息在车厢内部空间内的垂直方向的位置进行限定,但不以此为限。
本发明的一种具体实施过程包括:
首先,拍摄每个货车装载空间的第一影像信息。基于第一影像信息进行深度识别,建立货车装载空间的第一三维点云信息。根据第一三维点云信息匹配一种预设尺寸的车厢内部空间。
然后,拍摄待运输的货物群的第二影像信息。基于第二影像信息进行深度识别,建立待运输的货物群的第二三维点云信息。
接着,对第二三维点云信息基于点云识别的第一神经网络进行空间识别和分割,获得每个货物对应的第三三维点云信息,然后计算货物表面每个点的三维坐标,并计算最大外接尺寸。根据第三三维点云信息,匹配对应第二影像信息的局部影像。对局部影像基于第二神经网络进行图片标签识别,获得图片标签信息。图片标签信息可以是文本信息和/或对应货物类型、摆放方式的预设标签图案等,例如本实施例中,可以将文本信息输入基于运输敏感词分类的第三神经网络进行堆放标签识别,见过识别出的标签与第三三维点云信息建立映射关系。本实施例中的堆放标签可以是“易碎”、“可堆叠”等。
并且,基于货物群对应的各第三空间数据在若干种预设尺寸的车厢内部空间进行空间堆放,货物群的货物紧密排列于车厢内部空间的空间范围内,每个货物相互之间不重叠,且上层的货物被下层货物的顶部支撑。基于堆放标签和基于堆放标签的预设堆放规则对至少一第三三维点云信息在车厢内部空间内的垂直方向的位置进行限定,本实施例中堆放标签“易碎”对应的堆放规则是该货物放在货物群的顶层,“可堆叠”对应的堆放规则是该货物放在货物群的底层。统计每一种空间堆放后货物群的总体积。通过排序获得堆放后总体积最小的堆放结构信息。最后,根据堆放结构信息匹配最小总体积对应的车厢内部空间的货车发送任务请求信息。当车主用户接单后,向车主用户发送总体积最小的堆放结构信息。
本发明的基于货运场景的智能匹配方法能够在网络货运场景下准确获取车型及货物信息,并合理规划货物在空间中的摆放,提高车货匹配精准度,以此降低发货成本及运输过程中货物破损率。
图2是本发明的基于货运场景的智能匹配系统的模块示意图。如图3所示,本发明的实施例还提供一种基于货运场景的智能匹配系统,用于实现上述的基于货运场景的智能匹配方法,基于货运场景的智能匹配系统5包括:
货车空间模块51,采集每个货车装载空间的第一空间数据;
货群空间模块52,采集待运输的货物群的第二空间数据;
货物空间模块53,对第二空间数据进行空间识别,获得每个货物的第三空间数据;
货物堆放模块54,基于货物群对应的第三空间数据进行空间堆放,获得堆放后总体积最小的堆放结构信息;
任务请求模块55,根据堆放结构信息匹配第一空间数据满足最小总体积的至少一货车,并发送任务请求信息。
在一个优选实施例中,货车空间模块51被配置为拍摄每个货车装载空间的第一影像信息;基于第一影像信息进行深度识别,建立货车装载空间的第一三维点云信息;根据第一三维点云信息匹配一种预设尺寸的车厢内部空间。
在一个优选实施例中,货群空间模块52被配置为拍摄待运输的货物群的第二影像信息;基于第二影像信息进行深度识别,建立待运输的货物群的第二三维点云信息。
在一个优选实施例中,货物空间模块53被配置为对第二三维点云信息基于点云识别的第一神经网络进行空间识别和分割,获得每个货物对应的第三三维点云信息。
在一个优选实施例中,货物堆放模块54被配置为基于货物群对应的各第三空间数据在若干种预设尺寸的车厢内部空间进行空间堆放,货物群的货物紧密排列于车厢内部空间的空间范围内;统计每一种空间堆放后货物群的总体积;通过排序获得堆放后总体积最小的堆放结构信息。
在一个优选实施例中,任务请求模块55被配置为根据堆放结构信息匹配最小总体积对应的车厢内部空间的货车发送任务请求信息;当车主用户接单后,向车主用户发送总体积最小的堆放结构信息。
在一个优选实施例中,货物空间模块53还被配置为根据第三三维点云信息,匹配对应第二影像信息的局部影像;对局部影像基于第二神经网络进行图片标签识别,获得图片标签信息;将文本信息输入基于运输敏感词分类的第三神经网络进行堆放标签识别,见过识别出的标签与第三三维点云信息建立映射关系;货物堆放模块54还被配置为基于堆放标签和基于堆放标签的预设堆放规则对至少一第三三维点云信息在车厢内部空间内的垂直方向的位置进行限定。
本发明的基于货运场景的智能匹配系统能够在网络货运场景下准确获取车型及货物信息,并合理规划货物在空间中的摆放,提高车货匹配精准度,以此降低发货成本及运输过程中货物破损率。
图3是本发明的基于货运场景的智能匹配方法的实施过程中架构模块图。如图3所示,本发明包含1)影像获取模块、2)深度图获取模块、3)运输设备尺寸计算模块、4)货物尺寸计算模块、5)货物额外信息识别模块、6)货物分离模块7)运输设备及货物信息存储模块、8)货物堆放空间规划模块、9)车型选取模块等8个模块。其中,影像获取模块主要用于获取运输设备装货区域及货物的视频、照片等影像数据;深度图获取模块主要用来获取对应区域及货物的深度图(深度图记录了拍摄区域中每点到拍摄设备的距离);运输设备尺寸计算模块主要通过提取对应区域关键点及深度值来计算装货区域体积及范围;货物尺寸计算模块主要通过提取对应货物关键点击深度值计算货物体积及范围;货物额外信息识别模块主要用于识别货物自身属性,以便于后续货物摆放规划,包括是否易碎、是否有包装、包装类型、形状是否规则、形状类型、是否可以被压缩、预计可压缩比、是否易损;货物分离模块用于将图像中不同货物进行分离;运输设备及货物信息存储模块主要用于存储上述识别的运输设备及货物相关信息;货物堆放空间规划模块主要根据货物信息及运输设备信息,规划并计算货物在约束条件下合理体积;车型选取模型根据规划模块获取的合理体积选取多个车型共用户选择。
图4是本发明的基于货运场景的智能匹配方法的实施过程中车主用户端的流程图。如图4所示,具体步骤如下:
1)司机通过其设备上的影像获取模块获取拍摄对应合规的装货区域的视频或照片,深度图获取模块基于上述视频、照片及硬件设备进行深度图计算。深度计算手段包括但不限于:
1.当用户设备存在深度相机、激光雷达等可直接测量深度值的硬件时,用户拍摄图片时,调用硬件来获取的深度值,以此形成初步的1号深度图;当1号深度图缺失值占比多于预定值时,将图片或视频及1号深度图输入深度估计模型,得到模型预测的2号深度图,最后将1号深度图缺失部分用2号深度图进行填充;否则,采用线性差值方式计算深度图片缺失区域。
2.当用户设备中不存在可直接测量深度值的硬件时,将用户拍摄的视频或照片输入深度估计模型,得到对应的深度;此处所述深度估计模型与1中所述为同一深度模型,该模型输入包括影像数据、深度图数据(非必要),其实现手段包括但不限于:
a.借助于公开AR(Augmented Reality)深度估计工具包ARCore、ARKit来进行深度估计模型构建。通过输入序列化的照片或者视频,并调用ARCore、ARKit中对应深度值计算函数及硬件信息,以此计算深度值。
b.采用AI(人工智能)模型构建。所采用的AI模型子类包括但不限于单目深度估计模型、双目立体匹配模型、三维重建模型;通过将拍摄设备与测量深度值硬件组合,构建深度估计数据集(包括相机内参、外参、畸变系数信息、深度图),并利用深度估计训练集训练深度估计模型。
2)在获取到深度图后,输入至运输设备尺寸计算模块,计算运输设备尺寸。首先,深度图中像素坐标(u,v)转换为真实世界坐标(x,y,z);根据拍摄设备内参、外参、畸变系数、深度值采用公式1进行坐标转换。其中,K1表示相机内参矩阵,上标-1表示其逆矩阵,K2表示相机外参矩阵,d表示深度图片中(u,v)点的深度值。
然后根据关键点坐标计算装货区域长、宽、高,关键点可通过用户人工点选或者AI模型自动识别获取,且数量不得少于4个,其中AI模型包括但不限于关键点检测模型、目标检测模型、语义分割模型;计算完运输设备装货区域尺寸后,将运输设备标识信息及装货区域尺寸发送至信息存储模块,并保存对应信息。
3)如果该运输设备非新注册,加入抽取检测队列。抽取检测队列中,需要在超过间隔时间后拍摄运输设备的装货区域,并将其最新尺寸信息更新至存储模块。其中间隔时间由运营者决定,可是随机时间或者指定间隔时间数。在存储模块中运输设备信息条数不少于预定值时,1)-3)步骤与后续步骤可同步进行,否则,不进行后续步骤直至达到预定值。
4)图5是本发明的基于货运场景的智能匹配方法的实施过程中货主用户端的流程图。如图5所示,货主发货时,首先利用其设备上的影像获取模块拍摄对应货物照片或者视频,深度图获取模块在获取到上述照片或者视频后进行深度图计算,计算方式如步骤1)中所示。
5)获取到深度图及拍摄影像数据后,输入至货物分离模块。对应货物分离模块根据用户拍摄图片分离出不同货物在图片区域及位置,根据分离出来的货物区域位置,获取深度图片中对应区域深度值,并将各货物区域的像素点坐标(u,v)采用公式1转换为真实世界坐标(x,y,z)。其中货物分离模块采用实例语义分割模型实现。
6)将步骤5)获取到的各货物表面的坐标输入至货物尺寸计算模块,货物尺寸计算模块计算货物的最小外接长方体,并将其长、宽、高作为货物长、宽、高;
7)用户根据步骤5)识别出来的货物,选择所要发货的货物,并输入货物相关信息(是否易碎、是否有包装、包装类型、形状是否规则、形状类型、是否可以被压缩、预计可压缩比、是否易损),如果用户未输入某一部分信息,则转至步骤8),否则直接转入步骤9)。
8)当用户未输入除可压缩比外信息时,将对应货物图片(由步骤5)分离出来)输入至货物额外信息识别模块,额外信息识别模块根据货物图片预测货物相关信息,并将对应信息填写至用户缺失部分,其中额外信息识别模型采用深度图像识别模型构建。当用户为输入可压缩比信息时,直接将数值默认为(0,0,0),不采用图片识别模型进行识别。
9)将相关货物信息、货物尺寸、货物图片存储至运输设备及货物信息存储模块;
10)将相关货物信息、货物尺寸、货物图片形成订单,传送至货物堆放空间规划模块,货物堆放空间规划模块首先根据公式2计算订单中货物尺寸(l0,w0,h0)、可压缩比(cl,cw,ch)、单个货物预留空间比(rl,rw,rh)计算货物实际所需空间尺寸(l,w,h)。其中L表示纠正后货物某一方向长度,R表示货物某一方向预留空间比,C表示货物某一方向可压缩比,L0表示未纠正前货物某一方向。
L=(1+R)(1-C)L0 公式2
根据订单所有货物实际所需空间尺寸(l,w,h),采用规划模块中的模式1计算订单所有货物堆放所需最小空间尺寸。其中规划模块中实现手段包括但不限于:
1.设定输入矩阵I为(M*N*K)*P的二维矩阵大小,设定输出矩阵O为M×N×K×(M*N*K+9)的四维输出矩阵。其中,M表示长度方向最大货物数量;N表示宽度方向最大货物数量;K表示高度方向最大货物数量;P表示货物信息数量,包括长、宽、高、货物额外信息;输出矩阵$O$中表示货物ID和货物。
2.设定奖励函数R,奖励函数R由R1和R2两部分组成。其中R1与货物尺寸相关,R2与货物额外信息相关,γ表示货物额外信息奖励权重,0≤γ≤1。具体公式如下:
R=R1+γR2
R2=∑risi
其中,li表示i号货物长度,wi表示i号货物宽度,hi表示i号货物高度;ri表示第i个货物额外信息权重,0≤ri≤1;si表示第i个货物额外信息分数
3.模型未构建好时,随机生成以上输入矩阵作为数据,并采用相应的损失函数进行训练,直至模型符合要求,将模型权重保存下来。在模型已经构建好的情况下,载入对应模型权重,将现有货物信息沿输入矩阵1维方向,依次放入矩阵I中。将矩阵I及随机变量ε输入至模型中,得到对应的输出矩阵O,并将此过程重复n次,得到n个输出矩阵。
对n个输出矩阵O依次做以下操作,并取top k个的输出矩阵。
a.依次遍历O每个位置,根据长、宽、高三个方向旋转角度,计算货物的旋转后的长宽高,并更新至O1。
b.根据O1及公式a计算奖励值R,并建立(O1,R)组合。
c.根据R,从大到小依次对应n个(O1,R)进行排序,并取前k个输出矩阵集合。
对得出前k个输出矩阵集合依次进行计算实际最小空间尺寸,具体步骤如下:
设定最小模数,将输出矩阵三边方向依次除以最小模数,得到L,W,H,建立一个大小为L×W×H大小的零矩阵$E$。
从输出矩阵(0,0,0)按M,N,K方向依次遍历每个方格中货物信息,并根据货物位置相对关系将E中对应位置向量变为货物ID,如果零矩阵E中某一个层或者某几层非零值数量大于下层数量的2倍,则将对应货物往下移动一层,直至所有层都满足非零值数量不大于下层的2倍。如果计算过程中某一层货物长度超过了矩阵E,则按照当前货物长度扩充矩阵E
根据最小模数及每层非零值数量计算实际空间尺寸,并选出最小空间尺寸用于匹配。
11)向运输设备及货物信息存储模块中所有符合要求(装货区域空间尺寸大于货物堆放最小空间尺寸)的运输设备,发送该订单信息,在对应运输设备的司机愿意承接该订单后,将该运输设备装货区域尺寸及货物尺寸输入至货物堆放空间规划模块,计算出所有货物在装货区域摆放位置后,提供给货主及司机。
本发明采用拍摄影像数据来获取场景深度图的方式,场景深度图的获取只需一张图片即可,在获取深度图片后通过语义分割模型分割出对应货物区域,然后计算货物表面每个点的三维坐标,并计算最大外接尺寸;并且,采用空间规划模块先计算货物摆放所需最小空间尺寸,然后匹配符合要求的车型;还采用基于强化学习空间规划模块规划货物在空间摆放,并将货物摆放位置提供给用户。其特点在于采用(M*N*K)*P的二维矩阵输入来记录输入货物信息及ID,采用输出矩阵O为M×N×K×(M*N*K+9)的四维输出矩阵来记录货物在三维空间的相对位置,从而能够有效降低发货成本,提高装货率。
本发明实施例还提供一种基于货运场景的智能匹配设备,包括处理器。存储器,其中存储有处理器的可执行指令。其中,处理器配置为经由执行可执行指令来执行的基于货运场景的智能匹配方法的步骤。
如上所示,该实施例本发明的基于货运场景的智能匹配设备能够在网络货运场景下准确获取车型及货物信息,并合理规划货物在空间中的摆放,提高车货匹配精准度,以此降低发货成本及运输过程中货物破损率。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“平台”。
图6是本发明的基于货运场景的智能匹配设备的结构示意图。下面参照图6来描述根据本发明的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,存储单元存储有程序代码,程序代码可以被处理单元610执行,使得处理单元610执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,处理单元610可以执行如图1中所示的步骤。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任一总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储平台等。
本发明实施例还提供一种计算机可读存储介质,用于存储程序,程序被执行时实现的基于货运场景的智能匹配方法的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。
如上所示,该实施例本发明的基于货运场景的智能匹配系统能够在网络货运场景下准确获取车型及货物信息,并合理规划货物在空间中的摆放,提高车货匹配精准度,以此降低发货成本及运输过程中货物破损率。
图7是本发明的计算机可读存储介质的结构示意图。参考图7所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任一组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任一以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任一合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任一合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任一合适的组合。
可以以一种或多种程序设计语言的任一组合来编写用于执行本发明操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任一种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上,本发明的目的在于提供基于货运场景的智能匹配方法、系统、设备及存储介质,能够在网络货运场景下准确获取车型及货物信息,并合理规划货物在空间中的摆放,提高车货匹配精准度,以此降低发货成本及运输过程中货物破损率。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (10)
1.一种基于货运场景的智能匹配方法,其特征在于,包括以下步骤:
采集每个货车装载空间的第一空间数据;
采集待运输的货物群的第二空间数据;
对所述第二空间数据进行空间识别,获得每个货物的第三空间数据;
基于所述货物群对应的第三空间数据进行空间堆放,获得堆放后总体积最小的堆放结构信息;
根据所述堆放结构信息匹配所述第一空间数据满足最小总体积的至少一货车,并发送任务请求信息。
2.如权利要求1所述的基于货运场景的智能匹配方法,其特征在于,所述采集每个货车装载空间的第一空间数据,包括:
拍摄每个货车装载空间的第一影像信息;
基于所述第一影像信息进行深度识别,建立所述货车装载空间的第一三维点云信息;
根据所述第一三维点云信息匹配一种预设尺寸的车厢内部空间。
3.如权利要求2所述的基于货运场景的智能匹配方法,其特征在于,所述采集待运输的货物群的第二空间数据,包括:
拍摄待运输的货物群的第二影像信息;
基于所述第二影像信息进行深度识别,建立所述待运输的货物群的第二三维点云信息。
4.如权利要求3所述的基于货运场景的智能匹配方法,其特征在于,所述对所述第二空间数据进行空间识别,获得每个货物的第三空间数据,包括:
对所述第二三维点云信息基于点云识别的第一神经网络进行空间识别和分割,获得每个货物对应的第三三维点云信息。
5.如权利要求4所述的基于货运场景的智能匹配方法,其特征在于,所述基于所述货物群对应的第三空间数据进行空间堆放,获得堆放后总体积最小的堆放结构信息,包括:
基于所述货物群对应的各第三空间数据在若干种预设尺寸的车厢内部空间进行空间堆放,所述货物群的货物紧密排列于所述车厢内部空间的空间范围内;
统计每一种空间堆放后货物群的总体积;
通过排序获得堆放后总体积最小的堆放结构信息。
6.如权利要求1所述的基于货运场景的智能匹配方法,其特征在于,所述根据所述堆放结构信息匹配所述第一空间数据满足最小总体积的至少一货车,并发送任务请求信息,包括:
根据所述堆放结构信息匹配所述最小总体积对应的车厢内部空间的货车发送任务请求信息;
当车主用户接单后,向所述车主用户发送总体积最小的堆放结构信息。
7.如权利要求5所述的基于货运场景的智能匹配方法,其特征在于,所述对所述第二三维点云信息基于点云识别的第一神经网络进行空间识别和分割,获得每个货物对应的第三三维点云信息之后,还包括:
根据所述第三三维点云信息,匹配对应第二影像信息的局部影像;对所述局部影像基于第二神经网络进行图片标签识别,获得图片标签信息;将所述文本信息输入基于运输敏感词分类的第三神经网络进行堆放标签识别,见过识别出的标签与所述第三三维点云信息建立映射关系;
所述基于所述货物群对应的各第三空间数据在若干种预设尺寸的车厢内部空间进行空间堆放,所述货物群的货物紧密排列于所述车厢内部空间的空间范围内中,还包括:
基于所述堆放标签和基于所述堆放标签的预设堆放规则对至少一所述第三三维点云信息在所述车厢内部空间内的垂直方向的位置进行限定。
8.一种基于货运场景的智能匹配系统,用于实现权利要求1所述的基于货运场景的智能匹配方法,其特征在于,包括:
货车空间模块,采集每个货车装载空间的第一空间数据;
货群空间模块,采集待运输的货物群的第二空间数据;
货物空间模块,对所述第二空间数据进行空间识别,获得每个货物的第三空间数据;
货物堆放模块,基于所述货物群对应的第三空间数据进行空间堆放,获得堆放后总体积最小的堆放结构信息;
任务请求模块,根据所述堆放结构信息匹配所述第一空间数据满足最小总体积的至少一货车,并发送任务请求信息。
9.一种基于货运场景的智能匹配设备,其特征在于,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1至7任意一项所述基于货运场景的智能匹配方法的步骤。
10.一种计算机可读存储介质,用于存储程序,其特征在于,所述程序被处理器执行时实现权利要求1至7任意一项所述基于货运场景的智能匹配方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310969640.2A CN116957459A (zh) | 2023-08-03 | 2023-08-03 | 基于货运场景的智能匹配方法、系统、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310969640.2A CN116957459A (zh) | 2023-08-03 | 2023-08-03 | 基于货运场景的智能匹配方法、系统、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116957459A true CN116957459A (zh) | 2023-10-27 |
Family
ID=88447467
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310969640.2A Pending CN116957459A (zh) | 2023-08-03 | 2023-08-03 | 基于货运场景的智能匹配方法、系统、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116957459A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117744907A (zh) * | 2024-02-19 | 2024-03-22 | 天津小铁马科技有限公司 | 一种货源路线规划方法、装置、电子设备以及存储介质 |
-
2023
- 2023-08-03 CN CN202310969640.2A patent/CN116957459A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117744907A (zh) * | 2024-02-19 | 2024-03-22 | 天津小铁马科技有限公司 | 一种货源路线规划方法、装置、电子设备以及存储介质 |
CN117744907B (zh) * | 2024-02-19 | 2024-04-26 | 天津小铁马科技有限公司 | 一种货源路线规划方法、装置、电子设备以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11315262B1 (en) | Tracking objects in three-dimensional space using calibrated visual cameras and depth cameras | |
US11693901B2 (en) | Systems and methods for geolocation prediction | |
CN109870983B (zh) | 处理托盘堆垛图像的方法、装置及用于仓储拣货的系统 | |
US10983217B2 (en) | Method and system for semantic label generation using sparse 3D data | |
CN111079619B (zh) | 用于检测图像中的目标对象的方法和装置 | |
JP2021530771A (ja) | レーザレーダスパース深度マップの処理方法、装置、機器および媒体 | |
CN116957459A (zh) | 基于货运场景的智能匹配方法、系统、设备及存储介质 | |
JP2023545423A (ja) | 点群分割方法、装置、機器および記憶媒体 | |
US11869134B2 (en) | Transferring data from autonomous vehicles | |
US10740901B2 (en) | Encoder regularization of a segmentation model | |
CN115223117B (zh) | 三维目标检测模型的训练和使用方法、装置、介质及设备 | |
CN112132523A (zh) | 一种货物数量确定方法、系统和装置 | |
CN113128419A (zh) | 一种障碍物识别方法和装置、电子设备及存储介质 | |
KR102497560B1 (ko) | 인공지능 기반 물류 중개 플랫폼 서비스 제공 방법, 장치 및 시스템 | |
US11537977B1 (en) | Method and system for optimizing delivery of consignments | |
US11498776B1 (en) | Automated guided vehicle control and organizing inventory items using dissimilarity models | |
CN115546300A (zh) | 紧密摆放的托盘位姿识别方法和装置、计算机设备、介质 | |
CN115147054A (zh) | 货物装箱规划方法及装置 | |
CN111401190A (zh) | 车辆检测方法、装置、计算机设备和存储介质 | |
CN113111787A (zh) | 目标检测方法、装置、设备以及存储介质 | |
CN116523270A (zh) | 一种物流运输任务自动调度方法、设备、服务器及介质 | |
CN113867410B (zh) | 一种无人机航拍数据的采集模式识别方法和系统 | |
KR102108549B1 (ko) | 타일 및 위생 도기의 유통 관리 방법 및 장치 | |
CN115871657A (zh) | 基于激光测距和图像测距融合的防撞和预警方法和系统 | |
CN114821537A (zh) | 活动意图预测方法、装置及无人车 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |